| | ||
| {{{#!wiki style="margin:0 -10px -5px" {{{#000,#fff {{{#!folding [ 펼치기 · 접기 ] {{{#!wiki style="margin:-6px -1px -11px" {{{#000,#e5e5e5 | 제품군 | |
| 서비스 | ChatGPT · OpenAI(인공지능) | |
| 모델 | GPT-1 · GPT-2 · GPT-3(GPT-3.5) · GPT-4(GPT-4 Turbo · GPT-4o · GPT-4o mini) · GPT-5(개발 중) o1(o1-preview · o1-mini) | |
| DALL·E · Codex · CLIP · Whisper · Voice Engine · Sora · SearchGPT | ||
| 관련 인물 | ||
| 일론 머스크 · 샘 올트먼 · 미라 무라티 · 일리야 수츠케버 · 안드레 카파시 · 그렉 브록만 · 다리오 아모데이 | ||
| 관련 기업 | ||
| 마이크로소프트 | ||
| <colbgcolor=#ddd,#010101> OpenAI Inc. | |
| | |
| 설립일 | 2015년 12월 11일 ([age(2015-12-11)]년차) |
| 국가 | [[미국|]][[틀:국기|]][[틀:국기|]] |
| 설립자 | 샘 올트먼, 일론 머스크, 그렉 브록만 등[1] |
| 경영진 | CEO 샘 올트먼 (2015년~ )[2]CFO 세라 프라이어 (2024년~ )COO 브래드 라이트캡[3] (2022년~ )CPO 케빈 웨일 (2024년~ )사장 그렉 브록만 (2015년~ )[4]수석 과학자 제이컵 파호츠키 (2024년~ ) |
| 이사회 | 의장 브렛 테일러 (2023년~ ) |
| 법인 형태 | 비영리 단체 (501(c)(3)) |
| 산업 | IT |
| 상장 거래소 | 비상장 기업 |
| 기업 가치 | 1,570억 달러 (2024년 10월) |
| 매출 | 13억 달러 (2023년 / 추정치) |
| 주소 | 미국 캘리포니아 샌프란시스코 파이오니어 빌딩 |
| | |
[clearfix]
1. 개요
인공지능을 개발하며 안전한 AGI 개발을 추구하는 미국의 비영리 단체. 대형 언어 모델 (LLM)과 이를 기반으로 하는 ChatGPT 등의 소프트웨어를 제공한다.2. 역사
일론 머스크와 샘 올트먼, 그렉 브록만이 폐쇄형 인공지능의 대표주자인 구글에 대항하기 위하여 아이디어를 구체화하고 비영리로 사업을 시작했다고 한다. 머스크와 올트먼은 공동 의장 직책을 맡는다.[5][6]머스크는 4,500만 달러[7]를 출자했으며 연줄로 페이팔 마피아 출신의 리드 호프먼과 피터 틸의 기부 서명을 이끌어냈다. 올트먼은 Y Combinator 공동 창업자인 제시카 리빙스턴과 YC Reseach의 기부 서명을 이끌어냈다. 그 외에 아마존 웹 서비스, 인포시스 등이 출자하여 OpenAI 설립 당시 모금에 서명한 기부금은 도합 10억달러에 달했다고 한다.# 이렇게 2015년 비영리 단체로 시작했다.[8] 한편 머스크와 올트먼은 본업이 있었기 때문에 이들이 연줄을 통해 외연 확장을 노리는 동안 브록만이 풀타임으로 근무하며 일리야 수츠케버와 다리오 아모데이, 안드레 카파시 등 초창기 핵심 멤버에 해당되는 인공지능 분야 전문가 채용 및 전반적인 사내운영을 담당했다.
2018년 2월 Jed McCaleb, 게이브 뉴웰, 리드 호프먼, Michael Seibel, Jaan Tallinn, Ashton Eaton, Brianne Theisen-Eaton 등의 개인 투자가들이 신규 기부를 약속했다.# 반면 일론 머스크는 이사회에서 사임했다.[9][10]
2019년 3월 외부 투자자로부터 최대 100배 수준으로 제한된 수익률을 조건으로 투자를 받으며, 산하에 영리 법인을 신설했다고 밝혔다.# 막대한 클라우드 컴퓨팅 사용료 감당과 새로운 인재 영입을 위해 불가피했던 선택이었다고 한다.[11][12]
2019년 7월 마이크로소프트가 펀딩 라운드에 10억 달러를 투자했다고 밝혔다. 계약의 일환으로 Microsoft Azure의 컴퓨팅 환경을 제공받았으며, Azure AI라는 슈퍼컴퓨터를 공동으로 개발할 예정이라고 한다.#
2021과 2023년에는 마이크로소프트로부터 각각 20억 달러와 100억 달러 규모의 추가 투자를 받았다. 이를 통해 마이크로소프트는 GPT-4를 비롯하여 지적재산권 라이센스와 기타 제품 상용화 독점계약을 얻었다.[13] 세 번의 투자를 통해 마이크로소프트는 OpenAI LLC의 지분 49%를 확보했으나, 사측에서 영향력 행사를 방지하기 위해 이사회에 마이크로소프트 측 인사를 채워 넣을 수 없으며 의결권도 부여하지 않았다. 또한 투자 원금의 약 100배가 될 때까지 OpenAI LLC의 수익의 75%를 배분받지만[14], OpenAI Inc.의 이사회가 AGI에 도래했다고 판단할 경우 해당 분야에서는 상용화 계약의 효력이 먹히지 않는다. 이로 인해 높은 지분을 보유하고 있음에도 자회사 혹은 관계회사로 분류하기 힘들다.[15]
2023년 4월 세콰이어캐피탈, 앤드리슨 호로위츠 등의 투자자로부터 최대 290억 달러 기업가치를 평가받으며 3억 달러를 조달했다는 소식이 알려졌다.# 앞선 마이크로소프트의 투자와는 별개의 펀딩이다.
2023년 6월 16일부터 MBUX 인포테인먼트 시스템이 탑재된 메르세데스-벤츠 차량에서 ChatGPT베타 서비스가 시작된다. 우선 미국 한정이며, Azure를 통해 벤츠 보이스 컨트롤과 결합될 예정이다. GM과의 협업 루머도 있다.
2024년 1월 6일 마이크로소프트의 기술, 연구협업, 운영 부문 부사장인 디 템플턴이 투표권 없는 참관인으로 OpenAI 이사진에 합류했다는 소식이 전해졌다.#
2024년 2월 800억 달러의 기업가치를 평가받으며 자금을 조달했다는 소식이 알려졌다.# 바이트댄스와 스페이스X에 이어서 평가액 기준 3위 수준의 유니콘 기업이 되었다.
3월 8일 올트먼을 비롯해서 네 명의 새로운 이사를 선임했다.#
2024년 5월 15일부로 수석과학자인 일리야 수츠케버가 OpenAI 퇴사를 알렸다.# 후임으로는 제이컵 파호츠키 (Jakub Pachocki)가 지명되었다.
2024년 6월 10일 WWDC24에서 Siri의 ChatGPT 전환 기능 지원이 알려지며 Apple과의 협업이 알려졌으며, 자사 블로그를 통해 넥스트도어 전직 CEO인 세라 프라이어와 트위터 수석부사장 출신의 케빈 웨일을 각각 CFO와 CPO로 임명했다는 소식도 알렸다.#
2024년 7월 10일, 마이크로소프트와 애플 둘 다 이사회 참관인 자격을 포기했다는 보도가 나왔다.[16] 규제 당국의 빅테크 반독점법 조사를 우려한 조치인 것으로 보인다.
2024년 9월 25일 미라 무라티 CTO의 퇴사 발표 이후 CRO인 밥 맥그루, 부사장인 베럿 조프 등의 핵심 인력이 줄줄이 퇴사하며 지난 5월 수츠케버 퇴사 당시에 이어 2차 엑소더스가 발생했다.
2024년 10월 2일 1,570억 달러 기업가치를 평가받으며 66억 달러를 조달했다는 소식을 알렸다.# 스라이브와 마이크로소프트가 각 10억 달러 내외를 투자하며 라운드를 주했고, 지금까지 OpenAI의 누적 펀딩 금액은 179억 달러에 이른다. 다만 해당 펀딩은 2년 내에 비영리 이사회의 통제에서 벗어나 영리 기업으로 구조를 변경하고 투자자의 수익률 상한선을 없애는 조건이 이행되지 않을 경우 자금을 회수하거나 기업가치를 재협상할 수 있는 전환사채 방식으로 진행되었다는 루머가 존재한다.[17]
3. 사업
3.1. 언어모델
자사 응용 소프트웨어의 기반이 되는 파운데이션 모델이며, 유료 API를 통해 서드파티 기업에도 서비스를 제공하고 플러그인 지원을 통하어 자사 GPT만의 생태계를 만들어 나가고 있다. 즉 오픈AI의 알파이자 오메가인 분야이다. 공급이 한정적인 소수의 컴퓨터 과학자 인력을 채용해야되고 막대한 데이터를 필요로 하기 때문에 클라우드 컴퓨팅 비용이 상당하여 언어 모델을 개발하는 기업은 극히 드물다. 따라서 대부분의 AI 스타트업들은 API를 통해 구글, 오픈AI, 메타 등의 모델을 활용하여 자사 서비스에 탑재하는 방식으로 참여한다. 향후 ChatGPT 이상의 프로그램을 낼 예정은 현재로서는 없으며, 유료 API 기반 생태계 확장에 힘을 쏟겠다고 한다.3.1.1. GPT 모델
3.1.1.1. GPT-1
3.1.1.2. GPT-2
3.1.1.3. GPT-3
3.1.1.4. GPT-4
3.1.1.5. o1
3.1.1.6. GPT-5
3.1.2. Whisper
3.1.3. Codex
API 개발을 자동화해주는 인공지능이다. 2021년 8월 11일 공개된 업그레이드를 통해, 영어로 된 자연어 문장이나 이미지 데이터 등을 입력함으로써 손쉽게 프로그램을 코딩할 수 있게 되었다. GPT-3을 기반으로 하고 있다. GitHub가 공개한 코파일럿이 Codex를 기반으로 하고있다.
3.1.4. 프로메테우스
AI SEO에 특화된 언어 모델. 2023년 2월 7일 마이크로스프트 인공지능 언론 발표회에서 최초 공개되었다. Microsoft Bing과 Microsoft Edge에 적용된다. GPT-4에서 검색 기능을 특화시켜 만든 모델이다.3.2. 응용 소프트웨어
언어모델을 기반으로 한다.3.2.1. ChatGPT: 텍스트 인공지능
3.2.2. DALL·E: 그림 생성 인공지능
3.2.3. Voice Engine: 음성 생성 인공지능
3.2.4. Sora: 영상 생성 인공지능
3.2.5. SearchGPT: 인공지능 검색 엔진
3.2.6. OpenAI(인공지능)
3.3. GPT 스토어
2023년 11월에 열린 첫 번째 데브데이 컨퍼런스에서 출시를 예고했다.# 개인화된 GPT 에이전트를 거래할 수 있는데, 스토어에 올라오는 GPT 중에서 인기와 활용도가 높은 GPT들에겐 일부 수익 공유를 하겠다고 언급했다. 모바일 생태계를 넓힌 App Store와 Play Store처럼 인공지능 소프트웨어 유통 창구를 직접 담당하겠다는 뜻이다.기존에는 ChatGPT의 성공 이후 생성형 인공지능 분야에서 여러 유니콘 기업들이 우후죽순 쏟아졌으나, 투입되는 비용 대비 서비스의 수익성이 매우 빈약하기 때문에 외부 투자금 없이는 재정적인 자립이 힘들었다는 단점이 있었다. GPT 스토어 출시 이후에는 코딩 없이 자연어만으로도 맞춤형 서비스를 구축하는 게 가능해졌기 때문에 대중성이 보다 높아질 것으로 예상될 뿐더러 개발자의 수익 창출 루트가 새롭게 생긴 것이다.
하지만 올트먼 축출 사태의 여파 때문인지 출시를 연기한 이후 2024년 1월 10일 출시를 발표했다.
4. 지배구조
| |
| 지배구조 |
지분율에 상관 없이 사외이사[18]가 50% 이상으로 채워진 비영리 단체 OpenAI Inc.의 이사회에 전권이 부여된 구조다. 마이크로소프트의 경우에도 이사회가 AGI에 도달했다고 판단한 경우, 해당 분야에서는 기존에 맺은 라이센스 등 상용 계약의 효력이 사라질 정도다.[19] 자사 홈페이지에서도 투자자의 이익보다 안전한 방식의 AGI 구현이 우선 순위에 있다는 점을 명시하고 있다.#
이러한 구조 속에 비영리 단체 OpenAI Inc.는 수익률이 제한된 영리기업인 OpenAI Global LLC를 지배하고 있다.
마이크로소프트 외에 코슬라벤처스, 리드 호프먼, 세콰이어캐피탈 등이 주요 투자자로 참여하고 있다.
5. 이사회
| 이름 | 재직 기간 | 주요 이력 | 비고 |
| 현직 이사회 구성원 | |||
| 애덤 디엔젤로 | 2018년 4월~ | Quora (CEO) | [20] |
| 로렌스 서머스 | 2023년 11월~ | 하버드 대학교 (종신교수) | |
| 브렛 테일러 | 세일즈포스 (전임 CEO) | [의장] | |
| 샘 올트먼 | 2024년 3월~ | OpenAI (CEO) | |
| 수 데스몬드-헬만 | 게이츠 재단 (전임 CEO) | ||
| 니콜 셀리그먼 | 소니 (전임 총괄부사장) | ||
| 피지 시모 | 인스타카트 (CEO) | ||
| 폴 나카소네 | 2024년 6월~ | 미국 국가안보국 (국장) | |
| 지코 콜터 | 2024년 8월~ | 카네기 멜런 대학교 (교수) | [22] |
| 전직 이사회 구성원 | |||
| 일론 머스크 | 2015~2018년 | 테슬라 (CEO) | [23] |
| 샘 올트먼 | 2015~2023년 | OpenAI (CEO) | [24] |
| 그렉 브록만 | 2015~2023년 | OpenAI (사장) | [25] |
| 일리야 수츠케버 | 2015~2023년 | OpenAI (수석과학자) | [26] |
| 홀든 카노프스키 | 2017~2021년 | 오픈필란트로피 (디렉터) | [27] |
| 리드 호프먼 | 2018~2023년 | Inflection AI (이사) | [28] |
| 시본 질리스 | 2019~2023년 | 뉴럴링크 (디렉터) | [29] |
| 타샤 매카울리 | 2019~2023년 | 지오심시스템 (CEO) | [30] |
| 윌 허드 | 2021~2023년 | 텍사스 23구 (연방하원의원) | [31] |
| 헬렌 토너 | 2021~2023년 | CSET (디렉터) | [32] |
6. 로고
| | | |
| <rowcolor=white> 2015~2017년 | 2017~2023년 | 2023년~[33] |
7. 사건 및 논란
7.1. 2023년 경영진 축출 사태
2023년 11월 17일 공동창업자인 샘 올트먼이 이사회에 의해 대표이사 직책과 이사회에서 해고당했다. 그의 자리는 기존 CTO 미라 무라티가 임시직으로 대체하게 되었다.# OpenAI는 그가 의사소통을 거부하고 책임감 없는 모습을 보였다고 주장하며 이례적으로 불명예스러운 퇴진이 되었다.[34] 이후 그렉 브록만의 X 포스트를 통해 구체적인 전말이 밝혀졌다. 수석과학자인 일리야 수츠케버를 비롯한 이사회 주도로 해고 당일 화상회의를 통해 일방적인 통보를 받았던 것이다.# 안정성, 영리성 관련 문제와 관련된 다툼이 있었다고 한다.[35]그들을 따라 선임 연구원 세 명이 퇴직을 신청했으며 사내 임직원들은 물론 투자자들의 극심한 반발로 인해 주말동안 협상에 들어가며 올트먼이 다시 복귀할 가능성이 생겼으나, 2023년 11월 20일 사티아 나델라의 포스트를 통해 올트먼은 마이크로소프트의 신설 인공지능 리서치팀에 합류했음이 밝혀졌다. 함께 퇴사한 그렉 브록만과 일부 OpenAI 연구원도 함께 한다. 해당 건과는 별개로 마이크로소프트와의 협력 관계는 유지된다.# 또한 무라티 대신 새로운 임시 CEO는 트위치 공동창업자 에밋 쉬어로 결정되었다.[36]
하지만 OpenAI는 해당 건의 처리 방식으로 인해 투자자들을 비롯, 업계 관계자들의 신뢰를 잃었으며[37] 나델라의 포스트가 올라온지 얼마 되지 않아 'OpenAI is nothing without its people'이라는 문구를 임직원들이 공유함과 동시에 쿠데타를 주도한 일리야 수츠케버가 반성의 내용이 담긴 포스트를 올렸다.#[38] 이후 임직원 770명 중 700명이 서명한 탄원서가 올라왔다. 갑작스러운 해고로 인해 회사가 위기[39]를 맞게 되었으며, 그들의 복귀를 주장하는 내용이 담겼다. 또한 현 이사회가 사임하지 않을 경우 퇴사를 한 뒤 마이크로소프트의 신설된 팀으로 이적하겠다는 협박성 내용도 존재한다.[40] 해당 탄원서에는 수츠케버를 비롯한 임원진 전체가 서명했다.##[41][42]
2023년 11월 21일 이사회가 Anthropic과 합병하기 위해 접촉했다는 보도가 올라왔다. Anthropic의 창업자 세 명 전원이 올트먼 체제의 OpenAI가 상업화되는 행보로 인해 퇴사 후 새로 창업한 기업이기 때문에 막연하게 가능성이 없는 것은 아니다. 현재 OpenAI 이사회의 성향과 매우 비슷하기 때문이다.[43]
그리고 축출 5일만인 11월 22일에 애덤 디엔젤로로 대표되는 기존 이사회와 에밋 쉬어 임시 CEO가 협상에 성공하여 올트먼과 브록만의 복귀가 확정되고 새로운 이사회가 꾸려지면서 사건이 일단락되었다.# 이번 사건을 통해 올트먼에 대한 사내 임직원들의 열렬한 지지가 확인되었으며, 아무리 독립적인 이사회와 비영리기업 구조일지라도 대형 투자를 유치한 이상 설립 취지만을 고집할 수는 없다는 점이 드러났다. 또한 장기적으로는 마이크로소프트의 영향력이 더욱 높아질 것으로 보인다.[44][45] 향후 의결권이 없는 MS 측 참관인을 이사회에 포함시킬 것이라고 한다.#
2023년 12월 8일 마이크로소프트 대변인 프랭크 쇼는 자사가 단순 수익 배분을 통해 수익을 얻을 뿐, OpenAI에 대한 어떠한 지배권도 행사하지 않는다고 밝히면서 반독점에 대한 우려를 일축시켰다.#
2024년 3월 8일 기자회견을 통해 올트먼 축출 사태는 그와 이사회 간의 신뢰 상실의 결과였다고 최종 결론을 지었다. 즉, 안정성이나 재정 문제가 아니었다는 뜻이다. 해당 결론은 윌머헤일이라는 로펌의 사내 조사를 통해 이루어졌다.
하지만 동년도 5월, 당시 이사였던 헬렌 토너는 TED의 AI 쇼 팟캐스트에 출연하여 사내 조사 결론과는 사뭇 다른 의견을 피력했다. 경영진이 이사진에게 사전 공지 없이 ChatGPT를 출시했으며, 올트먼이 스타트업 펀드를 보유하고 있다는 점[46]도 알리지 않았다고 한다. 그 외에도 경영진의 독단적인 의사결정 사례를 언급했다.# 뿐만 아니라 일리야 수츠케버가 퇴사 이후 재취업 대신 상용화 제품을 출시하지 않는 방식으로 안전한 초지능 구축을 목표로 하는 SSI라는 업체를 설립하면서, 사내 조사와는 달리 누가 봐도 안정성을 절대 중요시하는 일리야와의 안정성 관련 갈등이 심각했을 것이라는 점을 유추해볼 수 있다.
7.2. 머스크와의 소송
2024년 2월 29일 설립 당시 공익적인 취지를 위반하고 마이크로소프트의 사익을 위한 폐쇄적인 기업으로 변모했다는 명목으로 일론 머스크에 의해 샌프란시스코 법원에서 고발당했다. 이에 OpenAI 측은 3월 5일 자사 블로그를 통해, 이를 정면 반박하는 글을 올렸다.#[47]2024년 6월 11일 머스크가 소송을 취하해달라는 요청을 했다는 소식이 알려졌다.#
7.3. 퇴사 계약 관련
2024년 5월 일리야 수츠케버 퇴사 소식이 알려진 이후 X를 통해 얀 레이케[48], 인공지능 정책 및 통제 연구원인 컬렌 오키프[49]와 다니엘 코코타일로[50] 등의 임직원들이 대거 퇴사를 결심했다는 소식이 알려진 바 있다. 또한 퇴사 과정에서 직원들에게 NDA 및 평생에 걸쳐 고용주(회사)를 비방하는 것을 금지하는 등의 엄격한 퇴사 계약서를 체결하게 했다는 소식이 알려졌다. 관련 문서 서명을 거부하거나 퇴사 이후 해당 내용을 위반할 경우, 회사에서 근무하는 동안 받았던 주식보상 등을 잃게[51]된다고 한다. 현직 직원과 전직 직원의 주식보상 현금화 한도도 차별했다.[52] 또한 샘 올트먼의 잦은 외부활동과 소통 부족, 안전 문제 등으로 인해 퇴사를 결심했다는 직원이 꽤나 존재했다.이후 올트먼이 X를 통해 퇴사 계약 관련 문서에는 지분 취소에 관련된 조항이 있지만, 실제로 이를 이행한 적은 없으며, 현재는 표준 퇴사 서류를 수정하는 중이라는 의견을 내놓으면서 해당 이슈는 기정사실화되었다.
7.4. 안정성 관련
경영진 해임 후 며칠만에 복귀 등 일련의 해프닝에 대해, OpenAI가 수익성을 우선시 하면서 안정성은 뒷전으로 팽개치는 것이 아니냐는 의혹이 제기되고 있다. 즉, OpenAI의 수익성과 대외 투자자 유치 등 사업성을 더 추구하는 샘 올트먼 파벌 및 그를 지지하는 대다수 직원들, 반대로 AI가 어느 단계를 넘으면 인간이 더이상 제어할 수 없으므로 그 전에 통제 안전장치를 먼저 확보해야하며 인류를 위해 AI를 사용해야 한다는 일리야 수츠케버와 얀 라이케 등 안정성 추구 파벌의 갈등 때문이라는 의혹이다. 실제로 최초 OpenAI의 설립 목적은 "안전하고 공개적인" 인공지능의 개발을 추구하는 것이었지만, 어느 순간부터 AI로 돈을 벌기위한 영리 수익사업 회사로 바뀌는 느낌이다.경영진 해임사태의 최종 조사결과는 안정성 문제가 아닌 경영진과 이사회 간의 신뢰상실 문제였다고 발표는 했지만, 실제로 경영진 해임을 주동했던 일리야 수츠케버와 얀 라이케가 결국 2024년 5월15일 퇴사한 후, OpenAI 측은 바로 이틀 뒤 5월17일에 수츠케버가 이끌던 슈퍼얼라인먼트(Superalignment) 팀을 해체하고, 존 슐먼이 이끄는 다른 부서와 통폐합시켰다. 이러한 행보는 AI 안정성에 대한 통제활동을 없애버리는 것이 아닌가 하는 의혹을 부추기게 되었다.
해당 팀은 지난 2023년 7월 수츠케버를 중심으로 사내 컴퓨팅 자원의 20%를 할당받으며 신설된 바 있다. 당시의 OpenAI 게시물을 보면 아래와 같이 포부를 밝히고 있다.
"현재로서는 잠재적으로 초지능 AI를 조종하거나 제어하고, 그것이 제멋대로 행동하지 않도록 방지하는 해결책이 없다. 인간 피드백에서 강화 학습과 같은 현재의 AI 정렬 기술은 인간이 AI를 감독할 수 있는 능력에 의존한다. 그러나 인간은 우리보다 훨씬 똑똑한 AI 시스템을 신뢰할 수 없게 감독할 수 없으며, 따라서 현재의 정렬 기술은 초지능에 맞추지 못할 것이다. 우리는 새로운 과학적 및 기술적 돌파구가 필요하다."
공동으로 팀을 이끌던 얀 라이케는 지난 몇 달 동안 컴퓨팅 자원을 확보하는 데 어려움을 겪는 등 회사의 우선순위에 대한 의견 차이로 인해 퇴사를 결심했다고 밝혔다.[53] 그 외에도 안전성에 관해 비슷한 의견을 내는 다니엘 코코탈로, 크레첸 크루거 등 다수의 직원들이 퇴사했다.
슈퍼얼라인먼트 팀은 AI의 초지능(Super-Intelligence) AGI를 사전에 통제하기 위한 안전장치를 연구하는 팀이었다. 부서 이름에서 뜻하는 Alignment 정렬의 뜻은 인간의 의도를 AI 가 이해할 수 있도록 동작 방향성을 정렬 일치시키는 것을 말한다.
아래는 AI Alignment가 무슨 뜻인지? 질문에 대한 ChatGPT의 답변이다.
AI Alignment는 인공 지능이 사람의 목표와 가치에 부합하도록 보장하는 것을 의미합니다. 기본적으로, 인공 지능 시스템은 우리가 의도한 바에 따라 행동해야 합니다. 그러나 이것은 종종 복잡하고 어려운 문제입니다. 예를 들어, 우리가 원하는 목표를 충실히 수행하거나 예상치 못한 방식으로 해석하는 사례가 있을 수 있습니다. AI Alignment는 이러한 위험을 최소화하고, 인간의 목표와 가치를 올바르게 이해하고 따르도록 보장하기 위해 연구 및 기술적 노력이 진행되고 있습니다.
AI Alignment에는 몇 가지 주요 항목이 있습니다:
* 인간의 의도 이해: 이것은 인공 지능이 인간의 의도와 목표를 정확히 이해하고 그에 맞게 행동하는 것을 보장하는 것입니다. 이것은 언어 이해, 의사 결정 프로세스, 윤리적 고려 등을 포함합니다.
* 안전성 보장: 인공 지능이 예상치 못한 상황에서도 안전하게 작동할 수 있도록 보장하는 것이 중요합니다. 이는 예를 들어 AI 시스템이 자동차 운전 중에 예상치 못한 상황에 대처할 수 있도록 하는 것과 같은 것입니다.
* 의도치 않은 부작용 방지: 종종 인공 지능 시스템이 우리가 원하는 것은 맞지만, 예상치 못한 부작용이 발생할 수 있습니다. AI Alignment는 이러한 부작용을 최소화하기 위해 노력합니다.
* 윤리적 고려: 인공 지능 시스템이 인간의 가치와 윤리적 원칙을 준수하도록 보장하는 것이 중요합니다. 이것은 특정 그룹이나 개인을 불이익하게 하는 행동을 피하고, 인간의 안전과 웰빙을 최우선으로 고려하는 것을 의미합니다.
이러한 항목들은 AI Alignment를 위한 연구와 기술적 개발의 주요 영역입니다.
AI Alignment에는 몇 가지 주요 항목이 있습니다:
* 인간의 의도 이해: 이것은 인공 지능이 인간의 의도와 목표를 정확히 이해하고 그에 맞게 행동하는 것을 보장하는 것입니다. 이것은 언어 이해, 의사 결정 프로세스, 윤리적 고려 등을 포함합니다.
* 안전성 보장: 인공 지능이 예상치 못한 상황에서도 안전하게 작동할 수 있도록 보장하는 것이 중요합니다. 이는 예를 들어 AI 시스템이 자동차 운전 중에 예상치 못한 상황에 대처할 수 있도록 하는 것과 같은 것입니다.
* 의도치 않은 부작용 방지: 종종 인공 지능 시스템이 우리가 원하는 것은 맞지만, 예상치 못한 부작용이 발생할 수 있습니다. AI Alignment는 이러한 부작용을 최소화하기 위해 노력합니다.
* 윤리적 고려: 인공 지능 시스템이 인간의 가치와 윤리적 원칙을 준수하도록 보장하는 것이 중요합니다. 이것은 특정 그룹이나 개인을 불이익하게 하는 행동을 피하고, 인간의 안전과 웰빙을 최우선으로 고려하는 것을 의미합니다.
이러한 항목들은 AI Alignment를 위한 연구와 기술적 개발의 주요 영역입니다.
샘 올트먼과 그렉 브록만이 해임 후 재복귀하면서 오히려 과거보다 더욱 강화된 전권을 쥐게 되었고, 일리야 수츠케버의 퇴사와 수퍼얼라인먼트 팀을 해체시키는 과정을 겪으면서 다시 한 번 안정성 관련 이슈가 화두로 떠오른 상황이다. MIT 교수 Yossi sheffi 기고문, OpenAI 사태의 교훈, 인공지능의 분열적이고 양극화된 특성의 위험성
세간의 안정성 이슈 제기를 의식한 듯 OpenAI 이사회는 기존 팀을 해체한지 얼마되지 않아 2024년5월28일 새로운 "안전 및 보안위원회"를 구성한다는 발표를 했다. CNBC 뉴스
다만, 이 위원회 멤버들이 외부 인원 없이 전부 내부 인사들로만 구성되었다는 점에서 비판을 받고 있다. 위원회 멤버는 샘 올트먼, 브렛 테일러, 아담 디앤젤로, 니콜 셀리그만, 최고 과학자인 야쿱 파초키, 준비 팀을 이끄는 알렉산더 매드리, 안전 시스템 책임자인 릴리안 웽, 보안 책임자인 매트 나이트, 그리고 정렬 과학 책임자인 존 슐만이 포함된다.
7.5. 스칼렛 요한슨 목소리 무단 사용
2023년 11월 ChatGPT에 음성 기능이 추가되었는데, 이 중 SKY 모드의 음성이 스칼렛 요한슨의 목소리와 흡사해 화제가 되기도 했다. 다만 이 때까지는 비슷한 목소리로 잠깐 화제가 된 수준이었는데, 무엇보다 음성 기능의 반응 속도가 느렸기에 광범위하게 대중화될 만큼의 성능은 아니었던지라 이스터 에그쯤으로 여기는 반응이 대다수였다.2024년 5월 OpenAI의 GPT-4o 발표 이후 논란이 점화되기 시작했다. 일단 새로운 음성 기능이 기존의 TTS(Text to Speech)에서 진보한 멀티모달 모델 기반이었기에 반응 속도가 극적으로 빨라져 음성 채팅 기능이 뜨거운 호응을 일으키기에 충분했다. 특히, 데모 영상의 인공지능 목소리가 영화 그녀(Her)의 인공지능 사만다의 목소리를 연상시키게 할 정도로 흡사할 뿐만 아니라 샘 올트먼 또한 발표 직후 자신의 SNS인 X에 ‘her’라고 포스팅 했을 정도로 영화와 연결지으려는 홍보의 의도성이 명확해 보였다.
이후 2024년 5월 20일 OpenAI는 공지를 내고 "우리는 챗GPT, 특히 (서비스 내 음성비서인) 스카이(Sky)의 목소리를 어떻게 선택했는지에 대해 많은 질문을 받았다"며 "문제를 해결하는 동안 스카이 사용을 일시 중지할 것"이라고 밝혔다.
이날 요한슨은 성명을 통해 샘 올트먼이 지난 9월 챗GPT 4.0 시스템의 음성을 담당해달라고 제안했지만 '개인적 이유'로 거절했음을 분명히 했다. 챗GPT 4.0 데모가 공개되기 불과 이틀 전에야 올트먼이 요한슨의 에이전트를 통해 재고해달라고 요청했는데, "논의가 이뤄지기도 전에 이미 (요한슨과 흡사한 목소리의) 시스템이 만들어졌다"는 지적이다. 이에 요한슨은 법률 변호사를 고용했고, 변호사가 올트먼에게 두 통의 공식 서한을 보낸 후 오픈AI가 스카이 음성을 삭제하는 데 마지못해 동의했다고 밝혔다. #
그러나 후에 스카이의 성우가 밝혀지면서 해당 목소리가 스칼렛 요한슨의 목소리가 아닌 것으로 드러났다. 성우의 에이전트에 따르면 해당 성우는 OpenAI가 스칼렛 요한슨과 접촉하기 6개월 전에 캐스팅 되었으며, 스칼렛 요한슨이나 영화 her에 대한 언급은 전혀 듣지 못했다고 말했다. 성우 본인 역시 자연스러운 자신의 목소리일 뿐이며 누군가를 따라하지 않았다고 말했다. 해당 성우를 캐스팅했던 조앤 장도 그 성우의 목소리가 스칼렛 요한슨과 닮았다고 생각해 본 적 없다고 답했다. #
8. 기타
- 정형원 등 한국인 직원도 여러 명 근무하고 있다.
- 2023년 1월 허위 정보로 인한 언어 모델의 오용 가능성 예측 및 위험 감소 방법에 대한 기사를 OpenAI 블로그에서 공개했다. AI 사용자의 오용 위험성과 사회적 파장에 대한 완화 전략[54] 등이 담겨있다. 그러나 '가이드라인'일 뿐 강제성은 없다.#
- 한국의 영어 회화 서비스 스픽이 ChatGPT 개발사 OpenAI와 기술적 파트너십을 맺었다. OpenAI가 직접 발표한 WhisperAPI 활용 사례로 소개되기도 했다.##
- 생성형 인공지능/언어모델 업체 중에서 OpenAI 다음으로 기업 가치가 높은 Anthropic이라는 업체는 창업자 전원이 OpenAI 출신이다. OpenAI가 마이크로소프트로부터 투자를 받으며 영리화돼가는 점에 대해 반감을 느끼고 창업했다고 한다.
- 2023년 6월과 9월, 11월에 자사 GPT 최적화를 위한 전자기기를 직접 제작하기 위한 프로젝트를 꾸리고 있다는 루머가 현지 언론들을 통해 일제히 보도되었다. 이를 위해 애플에서 인력들을 영입하고 있으며, 소프트뱅크 그룹의 펀딩, 조너선 아이브가 운영하는 러브프롬의 디자인까지 협업 방식으로 추진되고 있다고 한다. 하드웨어와 더불어 새로운 운영체제와 직관적인 UI를 목표로 하고 있다고 한다. 애플 디자인 총괄자 탕 탄이 러브프롬으로 이직했으며, 산업디자인 책임자 아오야기 쇼타도 OpenAI로 이직 할 예정이다.
[1] 공식 홈페이지에서도 명확히 밝히지 않고 있으며 매체에 따라 선정하는 창업 멤버의 구성이 각기 다르다. 이와는 별개로 올트먼과 머스크, 브록만의 주도로 아이디어를 구체화한 이후 설립되었고 공동창업자들을 영입했다.[2] 2023년 11월때 이사회와의 갈등으로 5일동안 잠시 해고당했다가 복귀했다.[3] JP모건 체이스, 드롭박스에서 금융 분야 보직에서 근무했으며, Y Combinator에서 근무하던 중 올트먼에 의해 영입되어 2018년부터 2022년까지 CFO 직책을 역임했다.[4] 이사회와의 갈등으로 인해 잠시 해고당했었다.[5] 래리 페이지와 일론 머스크는 인공지능의 잠재 위험성 여부를 두고 실랑이를 벌이다가 2014년 구글이 딥마인드를 인수한다고 밝히자 해당 건을 막으려고 시도했다. 실패한 이후 샘 올트먼 등의 경영진과 합세해 비영리 공익을 표방하며 설립한 게 OpenAI다.[6] 다만, GPT-3를 기점으로 클로즈드 테스트를 통한 소스코드 혹은 논문을 공개하지 않는 방향으로 노선을 변경했으며 마이크로소프트에게만 독점 계약을 제공하면서 초기 취지는 많이 희석되었다. 올트먼은 오픈이라는 의미가 오픈소스만을 의미한다고 생각하진 않는다고 언급했다.[7] 본래 1억 달러라고 주장했다가 정확한 액수가 기억나지 않는다는 뉘앙스를 풍기며 5,000만 달러로 줄여 언급했다. 한 언론사의 취자에 따르면 실제 1,500만 달러 정도만 출자하는 데 불과했다고 한다.# 2024년 2월 OpenAI 고소 이후 본인의 변호인단이 의하면, 4,400만 달러를 기부했다고 주장했다.[8] 다만 2019년 상반기 기준으로 실제 납입된 금액은 1억 3,050만 달러에 불과했다. 심지어 연방 세금 신고서 기준으로 YC Research는 한 푼도 기부하지 않았다고 한다. 현실이 이렇다보니 영리화는 필연적인 운명이었던 셈.[9] 명목상은 테슬라 오토파일럿으로 인한 이해관계 충돌이었으나, 개발 속도가 더뎌지며 구글을 추격하기 힘들어지자 머스크가 이사회를 단독으로 장악하고 테슬라에 OpenAI를 통합시키려고 하며 갈등이 커진 점이 사실은 주원인이었다고 전기에서 밝혀졌다.[10] 이후 2019년 머스크는 지분 전량을 마이크로소프트에게 매각했다. 2020년대에 들어서는 창업 초기에 비해서 지나치게 영리화 되어서 본래 취지와 맞지 않는다고 비판 횟수가 늘기 시작했다. 또한 트위터의 데이터를 무료로 긁어오며 학습했다고 주장하는 등 OpenAI에 적대적인 행보를 보이고 있다.# #[11] 개발 속도가 생각보다 진전되지 않아서 구글을 따라잡는 게 힘들어지면서 영리 법인 전환 이전에는 일론 머스크가 테슬라에 OpenAI를 통합시키려고 했으나 무산된 이후 올트먼도 비영리의 한계를 느끼고 마이크로소프트의 투자를 받는 대안을 선택한 것이다.[12] 당시 비노드 코슬라의 코슬라 벤처스가 5,000만 달러를 투자하며 최초 외부 투자자로 참여했다.[13] 때문에 2023년 ChatGPT의 성공과 후속 투자로 인해 마이크로소프트 주식에서 막대한 영향을 미치고 있다.[14] 수익 배분 계약은 아직 확실치 않은 부분이며 포츈의 주장이다. 원금 회수까지 수익의 75%, 원금 회수 이후에는 920억 달러에 달할 때까지 49%를 분배받은 뒤 투자수익 효력이 사라진다는 내용이다.[15] 2023년 11월 올트먼 해임 사태 때도 마이크로소프트는 해임 발표 직전에 이사회의 일방적인 통보를 받았을 뿐이었기 때문에 이를 더욱 뒷받침한다.[16] 애플은 필 쉴러가 참관 예정이었으며, 마이크로소프트는 부사장인 디 템플턴이 2024년 1월부터 참관인으로 합류했었다.[17] 국내외 주류 언론사에서 해당 내용을 발표했으며, 아직 사측에서는 진위여부를 밝히지 않았다.[18] 이들은 OpenAI의 지분을 보유하지 않아야만 한다. 현 대표이사 샘 올트먼조차 Y Combinator를 통한 소액의 간접투자 외의 개인적 지분은 보유하고 있지 않다.[19] 이러한 이유로 인해 마이크로소프트가 계약을 너무 불리하게 체결했다는 의견도 존재한다. 심지어 2022년 기준 OpenAI의 추정 매출이 수천만 달러부터 수천억 달러 수준에 불과하고 AGI 상용화 계약은 예외로 빠졌기 때문에 수익 분배로 투자 원금을 회수하는데 걸리는 기간이 상당히 길 것으로 예측된다.[20] 올트먼을 해고한 이사회에서 유일하게 남았으며, 그의 복귀 여부를 놓고 이사회를 대표하여 임시 CEO였던 에밋 쉬어와 협상에 돌입했던 것으로 알려졌다.#[의장] 올트먼 해임 사태 이후 사내 임직원들이 테일러를 이사회에 포함시킬 것을 요구하면서 의장으로 합류했다.[22] 컴퓨터과학 분야 초강세로 유명한 카네기 멜런 내에서도 기계학습 분야에서 가장 괄목할만한 연구 실적을 보여주고 있는 교수다.[23] 첫 번째 이사회부터 올트먼과 공동 의장으로 참여했으나, 사내 갈등으로 인해 2018년 2월 퇴임했다. 퇴임 이후 2023년 경쟁사인 xAI를 설립했다.[24] 첫 번째 이사회부터 머스크와 공동 의장으로 참여했다. 2023년 11월 수츠케버, 매카울리, 토너, 디엔젤로가 해임안에 찬성하며 퇴임했다.[25] 첫 번째 이사회부터 참여했으며 이후 이사회 의장에 올랐다. 2023년 11월 수츠케버, 매카울리, 토너, 디엔젤로가 해임안에 찬성하며 퇴임했다.[26] 첫 번째 이사회부터 참여했다. 2023년 11월 올트먼과 브록만 해임 사태에 가담한 것에 대한 책임으로 새로운 이사회를 꾸리기 위해 자진 퇴임했다.[27] OpenAI 출신인 다리오 아모데이가 OpenAI의 영리화에 반대하며 Anthropic을 창업할 당시 퇴임했다. 그의 여동생과 결혼했으며 페이스북 공동창업자인 더스틴 모스코비츠와 함께 효율적 이타주의 단체인 오픈 필란트로피를 설립했을 정도로 안전한 인공지능 발전을 중요시 한다.[28] 초기부터 기부에 동참하고 투자자로 합류했으나, 동종업계 경쟁사인 Inflection AI를 창업하면서 이해관계 상충으로 인해 시리즈 A 펀딩 투자를 받기 직전인 2023년 3월 퇴임했다.[29] 사내 갈등으로 인해 퇴사한 머스크의 측근이다. 관련 사항으로 인해 2023년 3월 퇴임한 것으로 추정된다.[30] 남편이 배우 조셉 고든레빗이다. 2023년 11월 올트먼과 브록만의 해임에 찬성한 이후 투자자들과 임직원들의 반발로 인해 퇴임했다.[31] 2024년 미국 대통령 선거 경선에 참여하기 위해 2023년 7월 퇴임했다. 이후 올트먼 해임 사태 이후 사내 임직원들이 허드의 이사회 복귀를 요구했으나, 합류하진 않았다.[32] 2023년 11월 올트먼과 브록만의 해임에 찬성한 이후 투자자들과 임직원들의 반발로 인해 퇴임했다. 10월에 OpenAI를 공개적으로 비판하는 뉘앙스의 글을 기고하기도 했다.#[33] 폰트가 고딕체로 변경되었다.[34] 같은 날 그렉 브록만도 의장 직에서 해임당한 이후 퇴사를 선언했다.[35] 투자자들과 이사회 의장이 발표 직전에 단순 통보식으로 전달을 받았기 때문에 쿠데타라고 보는 시각도 존재한다. 샘 올트먼은 얼마 전까지만 하더라도 이사회에 남아 있었기 때문에 브록만을 제외한 나머지 네 명 중에서 한 명만 반대해도 해임은 절대 벌어질 수 없는 구조였다.[36] 일리야 수츠케버를 비롯하여 사내 임직원들과 마찬가지로 효과적 이타주의 성향이 있는 인물이라고 한다. 따라서 파워싸움에서 사실상 수츠케버 측이 승리한 것으로 여겨졌다.[37] 대표적으로 마이크로소프트의 경우 130억 달러를 투자하며 Azure로 컴퓨팅을 지원해주고 이사회에 간섭하지 않으며 홍보까지 적극적으로 해줬더니, 지나친 영리화를 주도한다며 기업을 성공적으로 이끌고 있던 대표이사가 해임되었고 사전 통보도 해고 1분전에나 받았다. 심지어 OpenAI는 극심한 적자를 겪고 있기 때문에 이익 분배를 통해 투자원금을 회수하려면 한참 걸릴 예정이다. 이러한 상황에서 마이크로소프트가 파트너쉽을 중단시킨다면, 외부로부터 자금을 조달받은 기업인데도 불구하고 영리화보다 안정성을 우선시하며 이미 수백억 달러의 높은 가치평가를 받은 OpenAI에 자금을 대줄 투자자는 있을리 만무하다.[38] 올트먼은 해당 포스트를 공유하며 하트를 도배했다.[39] 인공지능 업계는 Attention Is All You Need를 통해 비교적 최근에 들어서야 본격적으로 개발상의 새로운 변곡점을 맞게 되었기 때문에 넘쳐나는 수요 대비 우수한 전공지식을 갖춘 박사급 인력이 많지 않은 편이며, AI 분야 자체가 활성화된지 얼마 되지 않아 AI 회사에서 수년간 일한 경력자가 타 분야에서의 박사급 인력과 동급으로 취급받는 경우까지 존재하는 등 연구원 한 명 한 명에 대한 의존도가 굉장히 높은 편이다. 현재 업계를 선도하고 있는 인물들 대부분이 Attention Is All You Need 저자들을 비롯해서 구글 혹은 OpenAI에서 빠져나온 인재들일 정도다. 따라서 연구원 유출로 인한 타격은 엄청나며, 이미 수많은 기업들에서 퇴직자들을 스카웃하려고 혈안이 되어 있다.[40] 새로운 이사회에는 브렛 테일러, 윌 허드를 사외이사로 넣을 것을 요청했으며, 마이크로소프트는 퇴사할 직원들을 받아들일 준비가 되어있다고 덧붙혔다.[41] 임직원들은 내부분열과 인력유출로 인해 기업가치가 낮아지며 주식보상과 스톡옵션이 헐값이 되는 사태를 우려했기 때문에 지금까지 안정성과 영리성 사이에서 성공적으로 기업을 이끌어왔던 올트먼과 브록먼의 복귀를 종용했을 가능성이 높다. 이로 인해 직원들조차 초기 취지와는 다르게 본인의 급여만 챙기려는 의도가 너무 다분한 것이 아니냐는 비판이 잇따르고 있다. 실제로 지난 10월 스라이브 캐피탈은 OpenAI의 기업가치를 860억 달러로 책정하며 직원들의 구주를 매각하려 했었다고 한다.# 또한 임직원 770명 중에서 절반 이상이 지난 2년 사이에 입사했기 때문에 이들 입장에서는 창업 초기의 취지가 아니라 세계 최고의 기업에 입사한 것에 가까운 상황이다.[42] 현존 최강의 컴퓨터 과학자 중 하나로 평가받고 있던 수츠케버는 이미지 회복이 불가능할 정도로 큰 비판을 받고 있다. 임시 대표이사도 본인의 입맛에 맛는 인물을 선임했으며 쿠데타를 주도했음에도 내부 반발이 심해지자, 뚝심 없이 갈대 같은 모습만 보여주고 있기 때문이다.[43] OpenAI 이사회는 내부 임직원들의 사퇴 요구 탄원서로 인해 치킨게임을 벌이고 있는 상황이다. 이사회가 사임한다면, 어느 정도 상업성을 갖추면서 사태 발생 일주일 전으로 돌아가 OpenAI 기업은 다시 안정 궤도에 오를 것이다. 이사회가 안정적인 AGI 개발이라는 명목 하에 끝까지 버틴다면, 마이크로소프트가 아직 이행하지 않은 투자금을 전부 회수하고 탄원서에 서명한 임직원들이 실제로 대거 퇴사하는 상황이 발생하여 OpenAI 자체가 와해되는 시나리오도 존재한다. 이사회 구조가 워낙 독립적이기 때문에 앞으로의 행보는 순전히 이들의 몫이다.[44] 퇴사가 발표되자마자 올트먼과 브록먼의 행선지가 마이크로소프트 인공지능 리서치팀으로 향했으며, OpenAI의 기업가치를 인정해주며 직원들의 스톡옵션과 막대한 컴퓨팅 자원을 지원해준 것도 마이크로소프트였기 때문이다. 이번 사건으로 인해 외부 기업의 후속투자 매력도가 떨어졌기 때문에 가시적인 수익을 창출하기 전까지는 계속 마이크로소프트로부터 약속되어 있던 자금을 조달받을 확률이 높다. 즉 올트먼이 대표로 계속 남아있는 한, 그와 가장 끈끈한 관계인 나델라의 마이크로소프트의 영향력은 계속 결속될 예정이다.[45] 참고로 마이크로소프트 같은 빅테크 기업은 각국의 당국으로부터 반독점법 규제가 수시로 들어오기 때문에 지분 49%를 넘기는 건 사실상 불가능하여 후속 투자는 힘들다. 구글, 아마존 같은 여타 빅테크 업체들도 같은 이유로 생성형 인공지능, 언어모델 분야에서는 대형 인수 없이 지분 투자와 파트너쉽 체결 정도로 투자 규모를 너무 키우지 않고 있다.[46] 이 경우 2024년 3월 OpenAI가 미국 증권거래위원회에 제출한 공시를 통해 올트먼과의 지분 관계가 더 이상 없다는 소식을 알렸다.#[47] 재정상 문제로 인해 개발 속도가 더뎌지자, 일론이 1인 체제로 독단적인 운영을 시도하며 역으로 초기의 설립 취지를 벗어났다는 뉘앙스다. 이후 통제에 실패하자, 당초 약속했던 펀딩 이행도 지키지 않았다는 내용을 이메일 자료를 통해 공개했다.[48] Jan Leike. 구글 딥마인드 출신이며 일리야와 더불어 공동으로 수퍼얼라인먼트 팀을 이끌었다.[49] Cullen O‘Keefe.[50] Daniel Kokotajlo.[51] 주식 관리를 위해 자회사로 설립된 Aesta(에스타)라는 업체의 문서에서는 회사가 언제든지 전적인 재량으로 양수인의 OpenAI 지분을 공정시장가에 해당되는 가격으로 상환 및 매각 가능하다고 적혀있다는 내용이 담겨져 있다는 소식이 알려졌다.[52] 현직 직원의 경우 1,000만 달러 한도로 현금화가 가능했으나, 전직 직원은 200만 달러 수준에 불과했다고 한다. 뿐만 아니라 절세를 위해 일부 주식을 자선단체에 기부할 수 있는 기회에 전직 직원들을 배제시켰다.[53] 얀은 퇴사 후 Anthropic의 안전 팀으로 합류했다.[54] 데이터 수집 제한, AI 콘텐츠 이용 시 신분 증명, AI 콘텐츠 식별 등.