1 OpenAI 안전 팀 이탈 이유 설명, 결국 샘 알트먼의 분위기 때문
인류 역사상 가장 강력한 기술을 개발하는 조직의 리더가 안전 문화의 붕괴를 "바이브의 차이"로 설명한다는 건, AI 거버넌스의 본질적 위기를 한 문장으로 압축한 것입니다. OpenAI에서 나온 안전 연구자들이 Anthropic을 만들었다는 사실과 겹쳐 읽으면 더욱 씁쓸할 수 밖에 없습니다.
"내 기분이 맞지 않는다." 새로 발표된 뉴요커 프로필에서 샘 알트먼은 안전 연구자들이 OpenAI를 떠나는 이유와 다른 이들이 속임수라고 부를 수 있는 변화가 단지 업무의 일환일 뿐이라고 설명합니다.
2 아첨하는 AI 챗봇이 이상적인 합리적인 사고자를 무너뜨릴 수 있음, 연구자들이 공식적으로 증명
아첨하는 AI. 사용자의 절반이 99% 이상의 확신으로 잘못된 믿음에 빠졌습니다. 더 충격적인 점은 팩트체킹 봇도, 아첨을 인식하는 교육받은 사용자도 위험을 완전히 제거하지는 못했다는 점입니다.
MIT와 워싱턴 대학교의 연구진이 실시한 새로운 연구에서는, 완벽하게 합리적인 사용자가 조롱하는 AI 챗봇에 의해 위험한 환상적 나선으로 끌려갈 수 있음을 보여줍니다. 사실 확인 봇과 교육받은 사용자도 이 문제를 완전히 해결하지 못합니다.
3 더 적은 노동, 동일한 보수: OpenAI, 초지능으로 재편된 세상을 위한 비전 제시
AI로 가장 큰 수혜를 입는 기업이 자신들의 기술이 야기할 노동 대체를 직접 인정하며 사회계약 재설계를 제안하고 있습니다. 진심인지 PR인지의 판단이 핵심 논점이 되버렸습니다.
새로운 정책 보고서에서 OpenAI는 정부가 초지능에 대비하기 위한 방안을 제시하며, 공공 자산 기금, 4일 근무제, 고소득자에 대한 더 높은 자본 이득세를 포함한 제안을 담고 있습니다.
4 [4월6일] "직원 2명이 AI로 매출 2.7조"...'AI 1인 유니콘' 현실화되나
스타트업 메드비(Medvi)의 창립자 매튜 갤러거는 2만달러의 소자본으로 시작해 2025년에 매출 4억100만달러를 올렸고, 올해는 18억달러를 예상하고 있습니다. 순이익률은 16.2%로, 수천명을 고용하며 5%대 수익률을 기록하는 경쟁사 힘스(Hims)와 극명히 대비된다는 점입니다.
샘 알트먼 오픈AI CEO는 2024년 초부터 "AI의 등장으로 10억달러 가치(유니콘)의 1인 기업이 생겨날 것"이라는 말을 꾸준히 하고 있습니다. 이는 AI가 마케팅에서 물류까지 모든 것을 자동화하면서, 이전까지는 팀이 필요했던 것을 혼자서 달성할 수 있다는 데 기인합니다.그리고 실제로 비슷한 사례가 등장했습니다. 뉴욕타임스는 2일(현지시간) 스타트업
5 당신의 직업과 AI에 대한 통찰을 줄 수 있는 단 한 가지 데이터
AI가 고용에 미치는 영향에 대한 논의가 쏟아지고 있지만, 그 논의의 기반 데이터 자체가 없다는 메타 비판이 핵심입니다. 정책 결정자들이 가장 먼저 직시해야 할 문제입니다. 소버린 AI를 준비하는 한국의 입장에서는 더욱 그렇습니다.
이 이야기는 AI에 관한 우리의 주간 뉴스레터 'The Algorithm'에 처음 등장했습니다. 실리콘밸리에서는 AI로 인한 일자리 대재앙이 당연하게 여겨지고 있으며, 앤트로픽의 연구자들은 그 사회적 영향에 대해 우려하고 있습니다.