9 min read

Categories

Tags

  • AI

세미나 참석

1. Mr Cho’s lecture (2018.5)

  • Python 문법 모르고 씀
  • Fasttext가 짱임 그냥 이거쓰면됨
  • Reusability가 높은것이 논문에 인용이 많이됨 (완벽한 논문이 아닌 허점이 보일때)
  • directional, acyclic graph (DAG)에 대한 이해
  • 신규 Class에 대한 효과적인 관리법 : 새로 학습시 신규Weight(Class)만 학습 or OneShot Learning (소규모 클래스)
  • metric : arbitrary distance, euclidean
  • 영어는 7gram으로 왠만하면 다됨 (통계관점) + CBOW

2. Mr.Choi’s Lecture

  • 논문의 평가지표는 객관성 부족 Summary로 흐름을 봄
  • Attention을 통해 영향인자 파악가등
  • Bi-Directial RNN등도 역방향 가능시 분석 가능
  • GAN을 활용 Binary Class문제를 해결

AI KOREA 2018

  • TTS = Wavenet
  • probabilistic programming (PYRO / Edward)
  • AI로 성과를 증명하려면 1.좋은 AI 문제 발굴(도메인지식 필수) 2.문제해결(입증) 3.신뢰를 쌓음 4.터닝포인트 5.거치있는 일에 대한 증명(놀면서 공부하는게아니다)
  • AI를 통해 기존의 기능을 개선 / 새로운 기능을 통한 신규 가치 창출
  • Naver에서는 바이오 관련 연구도 하고 있음 (분당서울대병원-유방암진단)
  • Bi-RNN의 경우 실시간 예측은 불가 (양방향이기에)
  • Bayesian Optimization Bandit (Hypermeter Parameter Auto) / GDregression => 최승진 교수님
  • 네비게이션이 생기면서 길을 모르게됨 (예전에는 지도보고 길외워서 갔었는데… AI도 마찮가지로 블랙박스)
  • 쉬운 문제는 AI 사용하는게 아닌 쉽게 풀면됨 (CV, Rule등)
  • Naver Labs, NC AI Lab등은 2013년에 만들어짐
  • Chief AI Officer / MAU(Monthly Active User) 고려 필요

Famous Sayings

  • 업무와 기술중 어느것을 먼저할 것인지 업무가 중요함 하지만 업무를 함에 있어 기술적인 도전이 되는 업무를 해야함 (성장하고 도전을 할 수 있어야 함-업무를 통한 성장이 가장 이상적임 이를 통해 선순환이 되어야함)
  • 모두가 전자렌지를 만들고만 있으면 정작 요리는 누가 하는가? (결국 딥러닝 연구만하고 실재 응용사례를 만들어야 진정한 딥러닝의 가치를 느낌)
  • 요리를 하는데 전자렌지 만드는 법을 알아야하는가? (딥러닝의 이론을 아는것도 중요한데 실재적인 요리만드는 법에 집중하는 것도 중요함) (머신러닝의 요소들을 재료와 전자렌지와 레시피, 그리고 요리에 비유하였는데 상당히 잘 들어맞는다고 생각)
  • 니가 아는 백명과 관계 유지 하려면 백 번 관리해야한다. 너를 아는 백명과 관계 유지 하려면 너가 너를 잘 관리 하면 된다 (열심히 인맥 쌓으러 다니다보면 백명이 생기지만. 묵묵히 자기일을 잘하고 실력만 있다면 너를 아는 백명이 생긴다 - 인맥관리) (스스로가 뛰어나다면 궂이 인간관계는 관리안해도된다는 의미)
  • 어떤 결과를 만들어냈냐는 것이 좋은 관계를 유지했던 것보다 더 비중이 큼 (결론적으로 아무리 친해도 함께 일했을때 성과가 나오지 않는다면 안친하더라도 성과를 내는 쪽으로 간다는 의미)
  • Wait Calculation (오픈소스 시대의 기다리는 것도 하나의 방법 - Startup의 경우 만들다보면 나옴)
  • 최고의 인재는 어디든 갈 수 있습니다. 그래서 복지는 직원에게 베푸는 혜택이 아니라 기업의 생존을 위해서 해야 합니다(블랭크 - 남대광)
  • 허브셔터 공짜 점심은 끝났다 - 세상에 공짜 점심은 없다(There is no free lunch)”란 격언은 이렇게 나왔다. 인터넷 포털들은 대용량 이메일을 개별 이용자들에게 공짜로 제공하고 있다.더 많은 가입자를 확보해야 광고료 등 수입이 올라가기 때문이다. 하지만 포털 광고주들의 광고비는 결국 제품 가격에 전가되어 소비자들이 이메일 이용료를 부담하게 된다. IT 기업들은 자사 제품이 시장에서 ‘사실상의 표준(de facto standard)’이 되는 것을 목표로 한다. 정부 기관에 의해 공인된 표준(de jure standard)이 아니라 시장에서 대다수 이용자가 쓰면서 자연스레 표준으로 정착되기를 원하는 것이다. 비디오 기술에서 베타 방식을 누른 VHS 방식, 휴대폰의 ‘천지인’ 문자입력 방식 등이 시장에서 표준으로 자리 잡은 대표적인 기술이다.
  • 조직이 크고 조직원이 많으면 자기 위에 사람이 많다는 뜻이고 이것은 곧 숨을 구석을 의미합니다. 그러면 커뮤니 케이션에 시간을 허비하고 일이 잘 안풀릴때 책임을 넘기죠. 반면에 작은 조직을 만들어 구성원에게 분명한 직책과 책임을 주면 그럴 가능성이 줄어듭니다. - 네이버 한성숙
  • “존경은 지금 내 옆에서 묵묵히 일하고 있는 바로 그 사람에게 보내자. 저 멀리에서 화려하게 말만 많은 누군가 말고. 인정받고 싶다면 지금 내 옆에서 일하고 있는 사람들에게 인정 받자. 저 멀리에 나를 제대로 알지도 못하는 사람 말고. 내 꿈은 지금 내 옆에서 일하는 동료들이 나중에도 나와 함께하고 싶다고 말하는 것. 사람들은 원대한 꿈을 말하지만 내꿈은 이게 다다. 지금 내 옆에서 일하고 있는 사람들의 “당신과 다시 함께하고 싶어요.” 그 말 한 마디.”
  • “지금은 경제적, 시간적 자유를 즐기면서 살아요. 그래도 여러분께 해드리고 싶은 얘기는 딱 하나예요. 젊었을 때 놀지 마세요. 게임 스타크래프트를 예로 들어보죠. 초반 5분 정도 놀면, 이 게임 이길 수 있을까요? 처음 시작할 때 놀아버리면 회복할 수 없어요. 20대의 1년이 50대 때 8년 정도 되는 거 같아요. 한 달이라도 젊었을 때 더 많은 일을 해보길 바랍니다.” - 김정호(네이버 창업주)
  • Andrew Ng “논문을 많이 읽고 스스로 검증하라 개발자들을 위한 최고의 교육은 다양한 논문. 읽은 논문을 토대로 똑같이 따라해서 똑같은 결과를 스스로 확인하는것이 중요하고 여러 논문을 충분히 읽고 연구하고 이해하여 모사할 수 있는 단계에 이르면 자신만의 새로운 아이디어를 만들 수 있을 것”
  • “조직에서 무임승차자들이 빠지면 장기적으로 정규직 고용 형태의 월급쟁이들이 크게 줄어들 것. 반면 자기 전문성을 브랜드를 가진 프리랜서들이 늘어나고 이런 추세는 이미 현실. 자기 능력대로 기업과 계약을 맺어 언제 어디에서든 일만 하면 되는 프리랜서들이 주위에 진짜 지고있음. 이 현실 속에서 기업 조직은 그냥 내가 돈을 버는 ‘플랫폼’이자 협력자에 불과해요. 기업 조직 자체가 인생의 꿈이자 목적이 되면 안됨.
  • 자율주행을 믿느냐? 이 말은 택시를 탈 수 있느냐와 같음. 택시 기사의 상태(술마셨는지, 멀쩡한지)모르고 그냥 믿고 택시를 탐, 딥러닝도 마찮가지임
  • 남을 잘 돕는 사람이 더 행복하고 더 오래 산다 자원봉사를 하는 사람은 그렇지 않은 사람에 비해 행복도와 삶의 만족도가 높았고, 사망률이 낮았다 스트레스를 받았을 때 타인에게 도움을 주는 활동을 하는 사람은 심박수와 혈압이 낮아지는 양상을 보였다. - 멕 제이, ‘슈퍼 노멀’에서 선행은 놀랍게도 받는 쪽보다 베푸는 쪽에 더 큰 혜택을 줍니다. 타인에게 많이 베풀수록 더 행복해집니다. 본인에게 돈을 쓸 때 보다 타인에게 돈을 쓸 때 만족감이 더 큽니다.남을 돕는 사람은 정신건강 상태가 더 양호했고,도움을 받는 쪽보다 더 많은 효과를 누린다는 연구결과가 많습니다.
  • 사람은 칭찬과 인정을 먹고 산다 상대방을 동정하거나 불쌍히 여기는 것이 아닌, ‘알아주는’ 것이 중요하다. ‘이해’해 주어야 한다. 사람은 자기를 ‘알아주는 사람이 있다’는 사실만으로도 살아가는 힘이 솟아오르는 법이다. - 이케다 다이사쿠, ‘인생좌표’에서
  • 촌철활인 : 한치의 혀로 사람을 살린다! 사람은 칭찬과 인정을 양식 삼아 살아갑니다. 가까운 사람일수록 ‘우리 사이에 말 안해도 알겠지’ 하고 무심코 넘기는 경우가 많습니다. 그러나 말 안하고 표현 안하면 모릅니다. 의심하게 됩니다.상대를 인정하고 자랑스러워 한다는 것을 적극 표현해주어야 합니다
  • 비즈니스의 핵심에 AI를 연결하여 수익을 창출하는 것(AI가 모든 산업의 밸류체인을 재편할 때 그 중심에 있는 것)
  • 성공과 행복이 함께하는 아름다운 경쟁 경쟁이 바람직한 방향으로 이뤄질 때, 즉 그 목적이 다른 사람에게 길을 열어주고, 그들이 더 쉽게 나아가도록 도움을 주고, 힘이 되어주고, 그리고 가능성을 보여줄 때, 1등이 되고자 하는 것은 긍정적인 욕망이 된다. 반면 다른 이를 물리치고 그들을 짓밟음으로써 자신을 높이고자 할 때 경쟁은 부정적인 욕망으로 변질된다.(달라이 라마) 다른 사람의 성공 가능성을 높여줌으로써 자신의 경쟁력을 강화하는 사람은 궁극적으로 성공과 행복을 함께 맛볼 수 있습니다. 혼자만 밝게 빛나려고 노력하는 대신 함께 빛나는 세상을 만들어가는, 나보다 먼저 남을 빛내고 성공시키려는 멋진 리더가 많이 나오길 기대해봅니다.
  • 꿈의 크기는 자신이 성취할 수 있는 한계를 뛰어넘어야 합니다. 꿈에 압도되지 않는다면 그 꿈은 크지 않은 겁니다.(앨런 존슨 설리프) 꿈은 혼자서 성취할 수 있는 것보다 훨씬 커야 합니다.달성 가능한 겸손한(?) 꿈은 내 안의 잠재력을 깨우지 못합니다.달성 불가능해 보이는 꿈이 숨겨진 잠재력을 깨우고 가슴을 울렁거리게 하고 삶에 생명을 불어 넣어줍니다.
  • ‘사람’을 통해서 배우는 소위 ‘네트워크 인텔리전스’를 활용하는 것으로 나타남 그러나, 누구나 1대1 대화를 시도하고 학습할 수 있음. 또한 유명한 사람이 아니더라도 업계의 사람들과 1대1로 대화를 나누다 보면 예상하지 못했던 정보나 인사이트를 얻을 수도 있음. 특히, 1대1 학습의 장점은 대화를 나누면서 ‘내’가 질문하는 것이기 때문에 나의 수준에 맞는 도움이나 가르침을 얻을 수 있다는 것임 1대1 학습의 대표적 사례로 에어비앤비의 창업자 브라이언 체스키가 있음. 그는 에어비앤비를 확장하면서 워런 버핏과 같은 사람에게 조언을 구했음. 그는 “제대로 된 정보 제공자를 찾으면 굳이 모든 것을 읽을 필요가 없습니다. 그래서 전문가를 찾는 방법을 배워야 했습니다. 안보에 배우고 싶어서 전 CIA 국장 조지 테닛을 찾아가기도 했습니다”라고 이야기함
  • 꿈의 크기는 자신이 성취할 수 있는 한계를 뛰어넘어야 합니다. 꿈에 압도되지 않는다면 그 꿈은 크지 않은 겁니다 - 앨런 존슨 설리프
    아프리카 첫 여성 대통령인 라이베리아의 앨런 존슨 설리프 대통령 이야기입니다. 꿈은 혼자서 성취할 수 있는 것보다 훨씬 커야 합니다. 달성 가능한 겸손한(?) 꿈은 내 안의 잠재력을 깨우지 못합니다. 달성 불가능해 보이는 꿈이 숨겨진 잠재력을 깨우고 가슴을 울렁거리게 하고 삶에 생명을 불어 넣어줍니다.
  • 남을 잘 돕는 사람이 더 행복하고 더 오래 산다 여러 연구에 따르면 남을 돕는 행위는 타인의 건강과 행복뿐만 아니라 자신의 건강과 행복도 개선하는 결과를 낳았다. 자원봉사를 하는 사람은 그렇지 않은 사람에 비해 행복도와 삶의 만족도가 높았고, 사망률이 낮았다. 스트레스를 받았을 때 타인에게 도움을 주는 활동을 하는 사람은 심박수와 혈압이 낮아지는 양상을 보였다.(멕 제이, ‘슈퍼 노멀’에서) 선행은 놀랍게도 받는 쪽보다 베푸는 쪽에 더 큰 혜택을 줍니다. 타인에게 많이 베풀수록 더 행복해집니다. 본인에게 돈을 쓸 때 보다 타인에게 돈을 쓸 때 만족감이 더 큽니다. 남을 돕는 사람은 정신건강 상태가 더 양호했고, 도움을 받는 쪽보다 더 많은 효과를 누린다는 연구결과가 많습니다.
  • 사람은 칭찬과 인정을 먹고 산다 상대방을 동정하거나 불쌍히 여기는 것이 아닌, ‘알아주는’ 것이 중요하다. ‘이해’해 주어야 한다. 사람은 자기를 ‘알아주는 사람이 있다’는 사실만으로도 살아가는 힘이 솟아오르는 법이다.(이케다 다이사쿠, ‘인생좌표’에서)
  • 승진 같은 보상이 줄어들고 있는 것도 중간관리자들을 위태롭게 한다. 이제 더 이상 연공서열로 직급이 올라가는 시대가 아니다. 승진할 수 있는 팀장이나 부장, 임원의 자리도 점점 줄어들고 있다. 많은 중간관리자가 “분명 선배들보다 열심히 일했는데 승진은 할 수 없다는 사실에 박탈감을 느낀다”고 하소연한다.
  • ‘실행’을 위해 드리고 싶은 저의 한 마디는: “해야 할 일이 있다면…그 중에서 하기 싫은 일부터 먼저 하라.”
  • 가장 성공한 사람은 평생 배우는 사람이다. 그들은 끊임없이 묻고 경이로운 세상을 탐험한다. 나이가 15세이든 115세이든, 지금 시련을 겪고 있든 최고의 전성기에 있든, 당신이 인생의 어느 시기에 있든 상관없이 자신을 위한 교육 과정을 만들어야 한다.(하버드대 탈 벤 샤하르 교수) 안코라 임파로! (Ancora imparo!) 천재 예술가 미켈란젤로가 87세에 시스티나 성당의 천장화를 완성하고 나서 스케치북 한쪽에 적은 글로 ‘나는 아직도 배우고 있다’라는 뜻입니다.(김병완, 스케일의 법칙에서 인용) ‘이제 모든 성인은 90세까지 평생학습을 해야한다’
  • 평범한 사람들로 엄청난 성과를 창출하는 법 지혜 있는 리더들은 육체적으로는 사람들이 고통보다는 즐거움을 경험하도록, 심리적으로는 자기 가치를 찾도록, 그리고 영적으로는 의미와 목적을 찾는 것을 도와주는 조직을 건설한다. 당신이 이러한 가치들을 일터에 통합시킬 때, 평범한 사람들을 통해 엄청난 성과를 창출하는 것이 가능해진다.(릭 워렌) 좋은 품질의 기계는 언제나 동일한 생산성을 유지합니다. 사람은 다릅니다. 일의 의미를 찾을 수 있을 때, 스스로 참여하고 결정할 수 있을 때, 배우고 성장한다는 것을 느낄 때, 존중받고 칭찬받을수록 점점 더 일에 몰입하게 되고, 그에 맞춰 생산성도 높아집니다. 평범한 사람들로 탁월한 성과를 창출하는 것, 경영의 묘미가 여기에 있습니다.
  • 위대한 회사를 만드는 비결 : 어떤 분야든 위대한 회사를 만드는 사람은 성장의 궁극적인 동력이 시장도, 기술도, 경쟁도, 상품도 아님을 이해한다. 다른 모든 것 위에 한 가지가 있다. 그것은 적합한 사람들을 충분히 확보하고 붙들어두는 능력이다 (짐 콜린스) 단순하지만 절대 진리입니다. 그러나 제대로 아는 사람이 많지 않고 알더라도 제대로 실천하는 사람이 드뭅니다. 위대한 기업이 많지 않은 이유입니다.회사는 경영자의 관심과 시간 투자를 먹고 살아갑니다.경영자가 가장 많은 관심과 투자를 해야 하는 것이 바로 적합한 인재를 확보하는 일입니다.
  • 당당하게 꿈을 선포하라 꿈은 반드시 이뤄져야 한다.꿈은 그저 보석처럼 소중히 간직하라고만 있는 것이 아니다. 꿈을 마음속에 감춰두고 아무에게도 알리지 않는다면 그 꿈은 영원히 비밀로만 남아있을 것이다. 당당하게 꿈 선포식을 하고 널리 알려야 한다 (메리 케이 애쉬)
  • 배는 항구에 있을 때 가장 안전합니다.그러나 배가 만들어진 목적은 안전이 아니라 항해입니다. 인생도 마찬가지입니다.우리는 안전을 위해 태어나지 않았습니다.단 한번뿐인 소중한 인생, 안정과 평안 보다는 거친 풍파를 헤치고 멋지고 신나는 항해를 해나가야 하지 않겠습니까?
  • 오픈소스 전략 특정 기업 소프트웨어에 익숙해진 개발자들이 정식 버전의 소프트웨어까지 사들이게 된다는 설명이다
  • 특히 리더가 시간을 확보하기 위해서는 부하직원에게 권한을 위임(empowerment)해야 한다고 봤다. 권오현 회장은 “미래에 대한 준비는 상사의 몫인데 상사가 ‘미래에 먹고 살 방안을 만들어오라’고 해 부하가 미래를 걱정하는 모습을 많이 봐왔다”고 비판했다. 그는 “부하가 나보다 똑똑하다고 부하와 경쟁할 것이 아니라 업무를 위임하면 그것이 모두 나의 성과가 된다”면서 “리더는 이렇게 확보한 시간에 거시 트렌드 정보를 활용해 ‘우리 조직이 미래에 무엇을 해야 할까’를 끊임없이 생각해야 한다”고 강조했다.
  • 모바일cpu 10위인 삼성전자가 애플의등장으로 약간 수정해서 납품 시간이지난후 리더의 의사결정 덕분의 결과로 먹고사는게 훌륭한 리더 일하는시간이아닌 실력을 늘려라 지식보다는 지혜를 즉 생각하는시간을 늘려라 (권오현) *조직은 리더가 가진 꿈과 그릇의 크기만큼 자란다. 큰 그릇은 많은 것을 담을 수 있다. 나와 동질의 것, 나를 편안하게 하는 것 뿐 아니라, 나와 다른 그래서 불편한 것도 끌어안을 수 있을 때 조직은 지속적으로 성장한다.
  • 엔드류 그로브, 인텔 2대 회장 IBM 창업자 토마스 왓슨도 같은 철학을 가지고 있었습니다. 나는 반대자들에게 감사한다. “나는 싫어하는 사람을 승진시키는 걸 주저하지 않는다. 오히려 뭐가 사실인지를 말하는 반항적이고 고집 센, 거의 참을 수 없는 타입의 사람을 항상 고대했다. 만약 우리에게 그런 사람들이 아주 많고 그런 사람들을 참아낼 인내가 있다면 그 기업에 한계란 없을 것이다.” 나와 다른 것을 품는 리더의 그릇의 크기가 곧 그 조직의 크기입니다. *엔비디아 CEO 젠슨 황(Jensen Huang)이 2017년 5월 “SW가 세상을 삼키고 있고, AI는 SW를 삼키고 있다”고 말한 바 있는데, 김 원장은 이를 인용하며 “SW는 이제 AI”라면서 “AI 투자가 성과를 내려면 디지털 기반이 중요하다”고 말했다. AI를 잘하려면 SW기반이 있어야 하는데, 우리는 그렇지 못하다면서 “우리나라 SW시장 규모는 세계시장의 1% 안팎이고 산업별 SW 활용도 미국보다 크게 낮다”고 밝혔다.
  • 김 원장은 AI 본질에 대해 “알고리즘으로 의사결정을 자동화한 것”이라고 설명했다. 그에 따르면 알고리즘은 컴퓨터의 문제풀이다. 이어 김 원장은 “SW는 경험과 지식을 코딩한 솔루션인데, 이를 사람처럼 잘하면 AI라 한다”고 밝혔다.