[강의]인공지능 시대 비즈니스 미치는 영향 Business Impact of Artificail Intelligence_정지훈 교수

(출처: thenorth.ai)

ChatGPT와 인공지능이 실생활에 성큼 다가온 시대입니다. 빠르게 변하는 시대에서 소외된 느낌을 가지기 쉽습니다. 이런 시점에 IT 세상의 변화를 알려주는 정지훈 교수의 강의를 들었습니다. 정지훈 교수의 강의는 처음입니다. 강의를 들으며 그의 IT 분야에 대한 해박한 지식에 놀랐습니다. 또한 투자자로서의 그의 통찰에도 감탄했습니다.

강의 내용이 많고 말이 빨라 모두를 담을 수는 없지만 그의 강의 내용을 아래와 같이 몇 가지 꼭지로 포스팅합니다. 정지훈 교수의 강의는 인공지능과 머신러닝의 다양한 측면을 다루며, IT 세상의 변화를 심도 있게 설명합니다. 

 

첫째, 머신러닝의 세 가지 학습 방법

1. 지도학습(Supervised Learning)

   A. 지도학습은 정답을 알고 있는 데이터를 사용하여 모델을 학습시키는 방법입니다. 예를 들어, 암을 진단하기 위해서는 암에 대한 사진을 사용해야 하며, 이러한 데이터는 고가입니다. 반면, 개와 고양이를 구분하기 위한 사진은 저렴합니다.
   B. 정지훈 교수는 크라우드웍스(Crowdworks)라는 기업을 소개하며, 한글과 영어 매칭 기술을 언급했습니다.
   C. 지도학습의 문제는 대부분의 경우 정답을 모른다는 점입니다. 이를 해결하기 위해서는 엄청난 양의 데이터가 필요하며, 이를 위해서는 인프라 투자가 필요합니다.

2. 비지도학습(Unsupervised Learning)

  비지도학습은 정답을 모르는 데이터를 사용하여 패턴을 찾는 방법입니다. 최근에 대세가 되고 있으며, 투자에 대한 걱정이 남아 있습니다.

3. 강화학습(Reinforcement Learning)

 강화학습은 시도와 오류를 통해 학습하는 방법입니다. 2016년 알파고가 대표적인 사례로, 알파고의 성공 이후 인공지능에 대한 관심이 급증했습니다.

 

둘째, 인공지능 기술의 발전과 투자

 A. Lunit: 결핵판단 기술을 가진 회사로, 정지훈 교수가 초창기에 엔젤투자를 했고 현재는 상장되어 있습니다.
 B. ChatGPT: 2022년 10월에 출시된 ChatGPT는 마이크로소프트가 OpenAI에 2조 원을 투자하여 개발되었습니다. 이 기술은 일상적인 채팅에 최적화되어 있습니다.
C. 투자 시점: 기술에 투자할 때는 많은 사람이 사용하고, 돈을 내는 사람이 있어야 합니다. 알파고는 두 가지 조건을 충족하지 못했지만, ChatGPT는 상업화 단계에 들어섰습니다.

 

셋째, AI의 상업화와 비용 효율성

 A. 고객의 필요: AI 기술은 고객의 다양한 필요를 충족시켜야 합니다. 학계와 산업계의 시각이 다르며, 비용 효율성을 어떻게 잡을 것인가가 큰 도전입니다.
 B. 빅테크의 역할: 빅테크가 제공하는 엔진을 사용하는 것이 중요하며, 사업 확장을 할 때 빅테크가 소홀히 할 부분을 고려해야 합니다.
 C. 비용과 효율성: AI 수준이 비슷해지면 마케팅 원가율로 갈 것입니다. LLM은 지나치게 돈이 많이 들며, 엔비디아가 이익을 많이 내고 있습니다. 이 부분을 어떻게 대응할 것인가가 중요합니다.

 

넷째, AI 기술의 미래와 도전 과제

 A. HBM과 D램: 고성능 HBM과 D램의 공급이 부족할 것으로 예상되며, 이는 AI 기술의 발전에 영향을 미칠 것입니다.
 B. 낸드플래시: AI의 도움으로 생성되는 데이터량이 늘어나며, 저장해야 할 데이터도 증가하고 있습니다.
 C. 데이터센터: 데이터센터에는 GPU와 메모리 외에도 장비와 네트워크가 필요합니다. 아날로그로 인해 디지털이 제약을 받는 현실입니다.

 

다섯째, AI 기술의 상용화와 사용자 경험

 A. 엔비디아의 쿠다: 과거에 HTML 문법을 배웠지만 현재는 아무도 하지 않는 것처럼, 쿠다도 중요하지 않게 될 것입니다.
 B. 퀄컴의 하이브리드 AI: 퀄컴은 'The future of AI is hybrid'라는 기술리포트를 발표했습니다.
 C. 애플과 메타: 애플의 비전프로와 메타의 Quest3가 발표되었지만, 비싸고 무겁고 충전시간이 짧아 널리 퍼지기 어렵습니다.

 

여섯째, AI 기술의 신뢰성과 비즈니스 원칙

 A. 신뢰성: AI 기술은 신뢰할 수 있어야 하며, 비즈니스 관점에서 크기, 성능, 비용에 대한 타협점을 찾아야 합니다.
 B. 데이터 관리 전략: 기업은 데이터 관리 전략을 세우고, 트렌드를 따라가며 실험하는 마인드셋을 가져야 합니다.
 C. 즉시 시작: 가장 중요한 원칙은 '당장 오늘 시작하라'는 것입니다.

 

일곱째,  AI와 인간의 상호작용

 A. ChatGPT와 Gemini: 존대말과 반말을 사용했을 때, AI와 소통하는 방식이 다릅니다. 비즈니스를 구상할 때는 현실적인 말을 하고, 의사결정을 할 때는 보수적이 됩니다.
 B. 인문학 교수들의 활용: 대학에서 LLM을 가장 잘 사용하는 것은 인문학 교수들입니다. 컴퓨터학과 교수들은 상대적으로 떨어집니다.

 

여덟째, 조직적인 측면에서의 AI 최적화

 A. 조직 구조: AI 기술에 최적화된 조직은 수평적으로 작은 유닛이 협업할 수 있는 구조가 좋습니다. 민첩성과 적응력이 생기며, 분산된 의사결정 구조로 많은 것을 할 수 있습니다.
 B .반도체 공장: 반도체 공장은 거의 100% 무인공정으로 진행되며, AI 기술이 접목되어 있습니다.
 C. 바이오 공정: 단백질 신약을 만드는 바이오 공정도 AI 기술이 접목되어 있습니다.

 

아홉째, 보안과 혁신

  AI 기업들은 공격적 보안관리를 통해 보안을 유지하고 있습니다. 혁신 관련 조직을 먼저 열어주고, 사내에서 사용할 수 있는 것을 도입하는 식으로 접근할 것을 제안합니다.

정지훈 교수의 강의는 인공지능과 머신러닝의 다양한 측면을 다루며, IT 세상의 변화를 심도 있게 설명합니다. AI 기술의 발전과 상업화, 비용 효율성, 신뢰성, 조직 구조, 보안 등 다양한 주제를 다루며, 기업들이 AI 기술을 효과적으로 활용할 수 있는 방법을 제시합니다.

----------------(이하 강의 내용을 속기로 정리한 원본입니다) ----------------------

Machine Learning은 지도학습(Supervised), 비지도학습(Unsupervised), 강화학습(Reinforcement)으로 나눌 수 있다.

인공지능 기술을 이용해서 결핵판단 기술을 가진 Lunit이란 회사에 초창기에 엔젤투자를 했고 지금은 상장되어 있다.

지도(Supervise)를 하려면 답을 알아야 한다. 문제를 정의해야 한다. 즉, 암을 진단하기 위해서는 암을 정의해야 한다. 암에 대한 사진으로 지도해야 하는데 한 장에 몇 만 원 한다. 반면에 개와 고양이를 구분하기 위한 사진은 저렴하다.

한글과 영어 매칭 기술에 대해 언급하여 크라우드웍스 crowdworks라는 기업을 소개했다.

Supervised Learning(Data Driven)의 문제는 거의 대부분의 경우에 답을 모른다는 점이다. 답을 꾸준히 달자고 하니 접목할 수 있는 부분이 적어 이를 해결하는 게 숙제였다.

약간의 의미 있는 것에서 답을 뽑아내기 위해서는 Data가 엄청나게 필요하다. 그래서 Data Driven이다. 인프라 투자가 필요하다. Unsupervised, 비지도학습이다. 투자에 대한 걱정이 남았다. 최근에 대세다.

강화학습, Reinforcement는 Trial & Error로 학습한다. Learn from mistakes라는 개념이다. 2016년 알파고가 사례다. 알파고가 터지며 사람들이 인공지능에 관심을 가지기 시작했다. 여러 국가들을 포함해서, 삼성전자와 네이버와 같은 큰 기업들과 많은 사람들이 AI의 존재를 인식하기 시작했다. 이미지가 바뀌기 시작했다.

이후 8년 동안 많이 변한 것 같은가? 왜?

기술에서는 언제 투자할지가 중요하다.

첫째, 소수의 사람들만 쓰는 것은 절대 굴러가지 않는다. 많은 사람이 써야 한다.

둘째, 돈을 내는 사람이 있어야 한다. 알파고는 두 가지가 모두 안됐다. 최근에 2022년 10월에 ChatGPT가 나오면서 판이 달라지기 시작했다. 기술은 상당히 오래되었다. 구글에서 Transformer라는 아키텍처가 나왔다. 선투자를 할 사람이 없었다.  2019년에 GPT2가 발표되었는데 한 문장 넣어주면 에세이를 쓰게 되었다. 마이크로소프트가 이를 보고 OpenAI에 2조 원을 투자했다. 구글 IO에서도 이미 투자하고 있었지만 slowdown 하고 있었다. MS와 OpenAI가 채팅을 자연스럽게 할 수 있는 상태로 만들었다. 글 쓰는 것보다 일상적인 채팅을 하는데 최적화해 만들자 해서 나온 게 22년 10월에 나온 ChatGPT다.

셋째, 투자할 때 willing to pay 할 수 있는 시점이 중요하다. 이제는 상업화 단계에 들어간다. 풀어야할 문제가 인간이 사용자로서 모호한 문제를 AI도움으로 풀어야 하는 게 대부분이다. 학계와 산업계의 시각이 굉장히 다르다. 학계(Training data > Model > Performance), 산업계(Performance > Model > Training Data)이다. 가장 큰 도전? 비용 효율을 어떻게 잡을 것인가. 고객들이 필요한 게 각각 다르다. 그전에는 학계의 느낌이 많았지만, 지금부터는 쓸만한 게 나오기 시작했다.

Customers and Needs. 빅테크가 제공하는 엔진을 쓰게 될 것인데, 빅테크들이 신경쓸 영역인지가 중요하다. 사업확장을 할 때 빅테크가 소홀히 할 부분, 마켓사이즈가 5년 후에 어떻게, AI 접목되었을 때 어떻게 될까?

Cost and Efficiency. 점점 AI 수준이 비슷해진다. 기본이 된 다음에는 마케팅 원가율로 갈 것이다. LLM은 지나치게 돈이 많이 든다. 엔비디아가 이익률이 80%가 넘는다는 사실은 모든 이익을 엔비디아가 가지고 있다. 이익을 많이 낸다. 고객의 등을 치든, 협력사 등을 친다는 것으로 지속가능하지 않다. 이 부분을 어떻게 대응할 것인가? 젠슨 황이 AI Factory를 언급했다. 반대편 진영의 논리가 나왔다. 애플과 퀄컴이다. 아이폰15프로와 아이폰15의 차이는 메모리다. 윈도우 AI PC를 만든다면 여기에서 상당 부분 처리해 주면 큰 비용이 들 일이 아니다. 두 가지 이념이 충돌하고 있다. On Device vs. AI factory (SLM vs LLM)

2026년까지 HBM을 만드는 족족 팔린다. 모자란다. 이익은 Q x P다. 양이 정해졌다. TSMC 공장 한계다. P를 올릴 수밖에 없다. 쇼티지가 난다. 고성능 HBM도 SK하이닉스와 마이크론이 공장을 늘리기 전에는 안된다. 삼성이 통과하면 달라질 것이다. SK하이닉스가 D램 공장 일부를 HBM용으로 전환하고 있다. D램 공급이 덜 된다는 얘기다. 삼성이 D램 가격을 20퍼센트 올렸다. 앞으로 쇼티지가 될 거라서.

초고용량 낸드플래시 대만 회사의 이익이 대폭 늘어났다. AI의 도움으로 생성하는 Data량이 늘어나며 저장해야 한다. 낸드플래시가 하드디스크만큼 용량이 큰 것도 있다. 서비스 해야할 곳이 늘어난다. 데이터센터에는 GPU와 메모리 외에 장비와 네트워크도 들어간다. Digital Realty 등이 하는 부동산도 있어야 하고 허가도 받아야 하고, 전기도 끌어와야지 등등 수많은 것들이 계속 필요한 거다. 아날로그로 인해 디지털이 제약이 되는 게 현실이다. 폭발적으로 늘어나기에는 아날로그가 발목을 잡고 있는 형태다. 누가 이런 것을 잘 관리할 것인가가 중요하다.

엔비디아의 쿠다는 중요하지 않다. 그냥 가져다 쓰면된다. 과거에 HTML 문법을 배웠지만 현재는 아무도 하지 않는다. 사용자량이 늘어나면 서비스 중심으로 갈 거다.

퀄컴이 2023년 5월에 'The future of AI is hybrid'라는 기술리포트를 냈다. 꼭 읽어볼 것을 권한다.

애플이 비전프로, 메타가 Quest3를 발표했다. 애플이 3D로 영상을 만들어서 던질 수 있는 AI개발되는 듯하다. 지금은 널리 퍼지지 않는다.

첫째, 비싸다. Consumer Device라면 돈을 낼 수 있는 수준이어야 한다. 개인은 1,000불이 넘으면 널리 퍼지기 어렵다.

둘째, 무겁다. 쓰고 다니는 것이다. 비전프로는 무게가 500g이다. 무겁다. 하지만 200g 정도면 쓰고 다닐 수 있다.

세 번째, 충전시간이다. 한 번 충전에 몇 시간 쓸 수 있나. 비전프로는 2시간이다. 한 번 충전에 5시간은 쓸 수 있어야 한다.

성능적으로는 되었지만 위의 세 가지는 2027년 정도 되야할 것으로 예상한다. 애플이 비전프로를 계속 유지하는 이유는 헤게모니를 계속 이어가기 위해서다.

한재광 교수가 휴머노이드 회사를 창업했다. 엔젤투자를 하며 20년 동안 망하지 않게만 해달라고 했다. willing to pay 할 수 있는 사람이 언제 나오겠냐 싶었다. 하지만 작년에 갑자기 매출이 난다고 하더라. 말을 알아듣고 서비스할 수 있게 했더니 사람들이 관심을 가지더라. 동작하고 눈 맞추고 얘기를 한다. 채팅 AI를 하는 로봇시장이 열리고 있다. 결국에는 싼 것이 이긴다.

기술적으로 AI를 인간이 써야 하니 신뢰할 수 있어야 한다. 비즈니스 관점에서 놓치면 안될 중요한 원칙들이 있다. AI의 판단 잘못으로 인해 발생할 수 있는 비용 등 크기, 성능, 비용에 대한 타협점을 찾아야 한다.

AI에 준비된 기업이 되기 위한 조언이다. 회사 수준에서 데이터 관리 전략을 세워야 한다. 트렌드를 따라가고 실험하는 마인드셋이 없는 기업이라면 경쟁에서 뒤처진다. 가장 중요한 마지막 원칙은 바로 '당장 오늘 시작하라'는 것.

ChatGPT나 Gemini 등에 존대말로 하다가 반말로 하자고 하면 하지 못했던 말을 한다. 같이 소설을 쓰는 거야라고 하며 이야기를 하면 굉장히 자유롭게 펼친다. 비즈니스를 구상해 보자라고 시작하면 현실적인 말을 한다. 의사결정을 해야 하는 입장에서 얘기하면 더 보수적이 된다. 추임새가 먹힌다. 단계별로 생각해. think step by step. 감성적으로 표현한 것도 먹힌다.

이 모든 것을 보면 사람을 설득해서 encourage하는 걸 잘한다. 대학에서 LLM을 가장 잘 쓰는 것이 인문학 교수들이다. 컴퓨터학과 교수들이 떨어진다.

이세돌이 알파고에게 진 뒤에 바둑의 정석 무용론이 나왔다. 인공지능의 도움으로 인간의 바둑 실력이 늘었다. Graph of Thought. chain of thought. AI와 소통하며 많이 늘었다. 사고의 확장이 늘어날 수 있다.

조직적인 측면에서 보자면 생성형 AI 기술에 최적화된 조직이 돼야 한다. 허드렛일을 해주는 Assistant 역할, Superviser의 역할을 해주는 AI가 있다면 수평적으로 작은 unit이 해주는 게 좋다. 부서 간에 기획, 개발, 디자인이 서로 갈등이 있었는데 중간에서 가교역할을, 넘나들 수 있는 역할을 하면서 협업할 수 있다. 민첩성과 적응력이 생긴다. 분산된 의사결정 구조로 소규모 조직으로 할 수 있는 것이 많아진다.

반도체 공장은 사람이 하지만 거의 100% 무인공정이다. 센서 등 많은 기계들의 연동화로 진행되고 복잡도가 올라갔다. TSMC가 최근에 떴다. 코어스라는 공정을 개발하며 혁신이 있었다. 수많은 Data Detection과 AI기술이 접목되었다. 바이오도 마찬가지다. 단백질 신약은 바이오 공정으로 만들다 보니 설비를 한 번에 투자하기 어려우니 한국의 셀트리온이 만들었다. 이후 삼성바이오로직스로 갔다. 그런 복잡한 것을 만드는 공정은 어떻게 할 거냐. 랩에서 하면 약 하나 가격이 비싸다.

Privacy, firewall 등 보안을 유지하며 사용할 수 있도록 해결하는 기업들이 계속 등장하고 있다. 요즘은 공격적 보안관리를 하는 AI기업들이 생기고 있다. 과거와 같은 수동적 보안보다는 어느 정도 가능하게 해두되, AI가 시나리오를 만들어 보안업체가 공격하게 만든다. 지속적으로 막아가면서 사용하도록 하는 보안 패러다임으로 넘어가고 있다. 혁신 관련 조직을 먼저 열어주고, 사내에서 사용할 수 있는 것을 도입하는 식으로 단계적으로 접근할 것을 제안한다.