AI가 대중화되고 있고, ChatGPT로 코드를 작성한다거나, 블로그 포스트를 쓴다거나, 대학 논문을 작성하는 등의 이야기들이 쏟아져나오고 있어요. AI 분야를 다루는 사람으로서 한 가지 중요한 트렌드가 눈에 띄어 공유해보려고 합니다. 

AI 트렌드를 설명하는데 도움이 된다고 생각하고, 좋아하는 개념이 있어요 - 바로 'Capability Overhang'입니다. AI의 숨겨진 능력, 즉 연구원들이 아직 조사를 시작하지 않은 시스템 내에 잠재된 기술과 적성을 기리키죠.

이전에 AI 모델이 '블랙 박스'라고 자주 불렸는데요, 너무 거대하고 복잡해서 작동 방식을 완전히 이해하거나 특정 결론에 도달할 수 없다는 뜻이에요. 보통 사실이고, 블랙 박스를 통해 이런 잠재된 기술을 발견해요. 

Capability Overhang은 기술 용어이지만 AI가 공공 영역에 진입함에 따라 지금의 트렌드를 완벽하게 설명하기도 해요. 수년 동안 연구원들은 이런 Capability Overhang을 위한 모델을 상업화하기 힘든 속도로 만들어내고 있었는데, 2022년에 새로운 어플리케이션과 프로그램이 Capability Overhang을 가능하게 했고, 2023년에는 이 어플리캐이션들을 통해 영역을 계속 확장함에 따라 상황이 빠르게 변화할거에요.

Accessibility

ChatGPT가 데모한 것처럼 AI 모델에 가장 중요한건 접근성인데요. ChatGPT의 뼈대도 다른 모델처럼 완전히 새로 개발된 프로그램이 아니었어요. (2020년에 개발된 GPT-3를 업그레이드 시킨 GPT-3.5 언어 모델이죠)

GPT-3 모델은 오픈AI의 기본 언어 모델로 배포햇고, 모델의 자연스러운 대화 능력과 사용성 덕분에 훨씬 많은 대중에게 공개되었어요. 그리고 많은 AI 연구원들이 모델의 기술과 약점을 조사해왔지만, 인터넷 전체 유저의 대량 지능에 비할 수 없었기에, 갑자기 Capability Overhang 이 가능해진 거죠.

AI Image Generator 의 서사도 유사해요.

다시 짚어보자면, 이런 시스템은 수년간 개발되어 왔지만 다양한 방식으로 접근성이 제한되어 왔어요.

그러나 올해 Midjourney 및 Stable Diffusion과 같은 시스템을 통해 누구나 무료로 이런 기술을 사용할 수 있게 되었고, 갑자기 AI 예술이 흔해진거죠.

이 중 상당 부분은 회사가 구축할 수 있는 오픈 소스 라이센스를 제공하는 Stable Diffusion 때문이에요.

사실, 기업이 새로운 AI 이미지 기능을 출시할 때 마다 Stable Diffusion의 리패키지 버전일 가능성이 높다는 것은 AI 업계의 공공연한 비밀이에요. ("마법의 아바타" 앱인 Lensa부터 Canva의 AI Text-to-Image, MyHeritage의 "AI Time Machine"에 이르는 모든 것이 포함) 원리는 모두 같아요.

그러나, 비유에서 알 수 있듯 Capability Overhang의 전망이 좋은 것 만은 아니에요. 숨겨진 새로운 기능엔 숨겨진 새로운 리스크가 있죠. 그리고 이런 위험은 나열하기 힘든 정도로 다양해요. 예를 들어, 대학에서 학생이 AI로 작성된 에세이를 제출한다면? Generative AI의 확산이 크리에이티브 산업의 소멸을 부른다면? 머신러닝이 웹을 영원히 망칠 스팸 테러를 야기한다면? 사실과 허구를 구분하지 못하는 AI 언어의 무능력이나 여성을 성적으로 표현하는 AI 생성기의 편견은? 이런 문제들이 빙산의 일각에 불과할 수도 있어요.

2022년의 열광이 사라지면, 2023년엔 이런 위험이 더 많은 주목을 받을 가능성이 높죠. 

Welcome to the AI Overhang. 안전바 꽉 잡으세요.