OpenAI, 구글 딥마인드, 인류학의 CEO를 비롯한 수십 명의 인공지능(AI) 전문가들이 최근 인공지능안전센터(CAIS)가 발표한 공개 성명서에 서명했습니다.
이 성명에는 다음과 같은 문장이 포함되어 있습니다: "AI 멸종 위험을 완화하는 것은 팬데믹 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적으로 우선시되어야 합니다." 이 문서의 서명자에는 AI의 '대부' 제프리 힌튼, UC 버클리의 스튜어트 러셀, MIT의 렉스 프리드먼 등 AI의 진정한 인물이 포함되어 있습니다. 뮤지션 그라임스도 '기타 주목할 만한 인물' 카테고리에 속하는 서명자입니다.
표면적으로는 무해해 보이지만, 그 근본적인 메시지는 AI 커뮤니티에서 논란의 여지가 있습니다. 점점 더 많은 전문가들이 현재의 기술이 인류에게 실존적 위협을 가할 수 있는 인공지능 시스템의 출현이나 개발로 이어질 수도 있고 필연적으로 이어질 수도 있다고 믿고 있는 것으로 보입니다.
그러나 그들의 견해는 정반대의 의견을 가진 전문가 그룹에 의해 거부되었습니다. 예를 들어, Meta의 수석 AI 과학자인 얀 르쿤은 AI가 통제 불가능해질 것이라고 반드시 믿지는 않는다고 반복해서 말했습니다. Ho는 구글 브레인의 공동 창업자이자 전 바이두의 전 수석 과학자인 앤드류 응와 같은 "멸종" 수사에 동의하지 않습니다. AI는 문제가 아니라 답입니다.
반면 힌튼과 컨젝처 CEO 코너 리히 등 전문가들은 인간 수준의 인공지능이 불가피하다고 보고 있으므로 이제 행동에 나서야 할 때다. 그러나 성명서 서명자들이 어떤 조치를 요구했는지는 불분명했습니다. 및/또는 거의 모든 주요 AI 회사의 AI 책임자와 학계의 저명한 과학자들이 서명자 중 하나로서 그들의 의도는 이러한 잠재적으로 위험한 시스템의 개발을 막는 것이 아니라는 것을 암시합니다.
이달 초 OpenAI CEO인 샘 알트만(위 성명서 서명자 중 한 명)은 AI 규제를 논의하기 위한 상원 청문회에서 의회에 데뷔했습니다. 그의 증언은 국회의원들에게 자신의 산업을 규제하도록 촉구하는 데 많은 시간을 보낸 후 헤드라인을 장식했습니다.
암호화폐와 아이덴티티를 결합한 프로젝트인 알트만의 월드코인(Worldcoin)도 최근 1억 1,500만 달러 규모의 시리즈 C를 모금한 후 미디어 라운드를 진행해 3라운드를 거쳐 총 자금을 2억 4,000만 달러로 늘렸습니다.
