https://the-decoder.com/openai-loses-its-biggest-names-in-ai-safety-as-ilya-sutskever-and-jan-leike-walk-away/

OpenAI의 공동 창립자이자 딥러닝의 획기적인 발전을 이끈 2012년 AlexNet 논문의 저자 중 한 명인 일리야 수츠케버가 거의 10년 만에 회사를 떠납니다.


서츠케버는 OpenAI의 궤적을 "기적적"이라고 표현하며 안전하고 유용한 인공 일반 지능(AGI)을 만든다는 궁극적인 목표를 달성할 것으로 확신한다고 말했습니다.


서츠케버는 자신에게 "개인적으로 의미 있는" 새로운 프로젝트에 집중할 계획이지만 자세한 내용은 밝히지 않았습니다.


그의 후임 연구 책임자로는 OpenAI에서 7년간 근무한 베테랑이자 Sutskever를 멘토로 여기는 Jakub Pachocki가 선임될 예정입니다.

OpenAI의 CEO인 샘 알트먼은 파초키를 "우리 세대의 가장 뛰어난 인재 중 한 명"이라고 칭하며 그가 회사를 AGI를 향해 빠르고 안전하게 이끌 수 있다고 확신한다고 말합니다. Altman에 따르면, 파초키는 이미 OpenAI의 "가장 중요한 프로젝트" 중 "많은" 프로젝트를 이끌었습니다.


알트만은 또한 "그가 이곳에서 한 일에 대해 영원히 감사하고 우리가 함께 시작한 임무를 완수하기 위해 최선을 다할 것"이라며 서츠케버에게 따뜻한 말을 건넸습니다.

수츠케버의 OpenAI 롤러코스터


서츠커버의 퇴사는 OpenAI가 격동의 시기를 보낸 뒤에 이루어졌습니다. 이사회 멤버였던 그는 11월에 CEO인 샘 알트먼이 급격한 상용화와 이로 인한 보안 위험에 대한 우려로 인해 잠시 축출되는 데 관여한 것으로 알려졌습니다.


로펌 윌머헤일의 조사 결과, 알트만의 행동이 해임 사유가 되지 않으며 이사회의 결정이 시기상조라는 결론을 내렸습니다.


서츠케버는 이 사건에서 자신의 역할에 대해 사과하고 알트만의 복직을 도운 후 이사회에서 사임하고 공식 석상에서 모습을 감췄습니다.

서츠케버가 사임한 지 몇 시간 후, AI 안전 연구원인 얀 라이크도 퇴사를 발표했습니다. 라이크는 인류의 이익을 위한 초지능 AI의 정렬, 이른바 정렬 연구에 주력하고 있습니다.



2023년 여름, 초지능을 반복적으로 정렬하고 인간과 같은 능력을 갖춘 자동화된 정렬 연구자를 만드는 것을 목표로 설립된 OpenAI 슈퍼얼라인먼트 팀의 공동 리더였던 레이크는 서츠케버와 함께 공동 리더를 맡았습니다.


레이크는 사임 이유를 밝히지 않았습니다. 알트먼이 해고될 무렵, 회사 내부에서는 상업적 중심과 연구 중심, 그리고 상업화와 관련된 AI 위험에 대한 근본적인 의견 차이가 있다는 소문이 돌았습니다.

https://twitter.com/sama/status/1790518031640347056

https://twitter.com/ilyasut/status/1790517455628198322