마이크로소프트 AI 총괄 무스타파 술레이만은 AI가 인류에 실존적 위협이 될 경우 개발을 중단하겠다고 밝혔다. OpenAI와의 계약 재조정으로 MS는 독자적인 AGI 개발 권한을 확보, 안전을 최우선하는 AI 개발에 박차를 가한다.
마이크로소프트 소비자 AI 책임자 무스타파 술레이만은 인공지능이 인류 안전에 실존적 위협을 가할 경우 개발을 전면 중단하겠다고 밝혔다. 블룸버그 쇼에서 그는 MS의 목표가 ‘인간 이익에 부합하는 초지능’ 구축이며, 무조건적인 힘 추구가 아니라고 강조했다. 술레이만은 시스템이 통제 불능 상태가 될 가능성이 있다면 개발을 지속하지 않을 것이라며, 이러한 입장이 AI 업계 전반에서 아직 드물다고 지적했다. 이는 MS가 AI 개발에서 ‘안전’을 최우선 가치로 삼고 있음을 명확히 보여준다.
술레이만은 작년 초 그의 스타트업 인플렉션 AI 팀이 마이크로소프트에 인수된 후 합류했다. 이전에는 MS와 오픈AI의 파트너십 계약 조건으로 MS는 인간 수준의 인공 일반 지능(AGI)이나 초지능(Superintelligence) 개발이 제한되었다. 이 계약은 MS가 오픈AI 최신 모델에 접근하는 대가로 AGI 개발 권리를 포기하고, 수년간 오픈AI를 위한 데이터 센터를 구축 지원하는 내용을 포함했다.
그러나 지난해 10월, 이 관계는 새로운 계약으로 전환되었다. 술레이만에 따르면, 오픈AI가 소프트뱅크와 오라클 등 다른 파트너들과 더 많은 데이터 센터를 구축하기 위한 인프라 계약을 맺으면서 상황이 달라졌다. MS는 오픈AI에 제공하기로 했던 데이터 센터 구축 규모보다 더 큰 규모의 협력을 오픈AI가 다른 곳에서 확보함에 따라, 그 대가로 독자적인 AI 개발 권한을 되찾게 되었다.
이로써 마이크로소프트는 시장의 강력한 모델들과 직접 경쟁할 수 있는 자체적인 고급 AI 시스템을 자유롭게 개발할 수 있게 되었다. 술레이만은 이 새로운 권한을 바탕으로 안전하고 인류에 이로운 방향으로 초지능 개발에 집중할 것이라고 강조했다. 이는 MS가 AI 산업의 선두 주자로서 기술 발전과 윤리적 책임 사이에서 균형을 맞추려는 강력한 의지를 표명한 것으로 해석된다.
📚 용어 설명
- 인공 일반 지능 (AGI): 인간과 동등하거나 그 이상의 인지 능력을 가진 범용 인공지능.
- 초지능 (Superintelligence): 인간의 모든 지적 능력을 훨씬 뛰어넘는 지능 시스템.
- OpenAI: 인공 일반 지능(AGI) 개발을 목표로 하는 선도적인 AI 연구 기관.
- Inflection AI: 무스타파 술레이만이 공동 설립한 대화형 AI 스타트업.
키워드: 마이크로소프트 AI, 무스타파 술레이만, AI 안전, 인공 일반 지능, OpenAI