나델라 “첨단 AI에 비상 브레이크 필요”

최근 30일 조회수 —좋아요 —

핵심 요약

사티아 나델라는 첨단 AI를 내부자 위협처럼 간주하고 인간이 통제하는 안전 체계를 구축해야 한다고 촉구했다.

나델라 “첨단 AI에 비상 브레이크 필요” — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

마이크로소프트(Microsoft) 회장 겸 최고경영자(CEO) 사티아 나델라는 첨단 인공지능(AI) 모델을 잠재적 내부자 위협처럼 취급하고, 권한을 가진 사람이 작업 도중 모델을 중단하거나 종료할 수 있는 ‘비상 브레이크’를 구축해야 한다고 촉구했다. 블룸버그에 따르면 나델라는 기업이 강력한 AI 모델이 침해될 가능성을 전제로 삼아 자율적으로 행동하는 에이전트형 모델의 통제 이탈에 대비해야 한다고 주장했다.1

CNBC가 10월 10일 보도한 나델라의 엑스(X) 게시물에 따르면, 예측하기 어려운 비결정론적 모델을 결정론적 시스템 설계와 인간의 통제, 신뢰할 수 있는 운영 절차로 둘러싸야 한다. 기존 기준이 부족한 분야에서는 업계 표준도 마련해야 한다는 설명이다.2

나델라는 구체적인 설계 원칙으로 여러 모델을 함께 활용하는 다양성, 모델 행동을 사람이 읽을 수 있는 기록, 지속적인 시스템 시험, 독립적인 통제와 감사 가능성, 격리, 사고 공개를 제시했다. 폐쇄형 모델과 가중치를 공개한 모델 모두 내부자 위험에 준해 다뤄야 한다는 입장이다.

이번 발언은 기술업계와 연구진 사이에서 AI 안전장치가 기술 발전 속도를 따라가지 못한다는 경고가 이어지는 가운데 나왔다. 반면 도널드 트럼프 미국 대통령은 AI가 인류를 위협할 수 있다는 우려보다 중국과의 경쟁에서 앞서는 데 무게를 둬 왔다고 CNBC는 전했다. 나델라는 신뢰할 만한 초지능 시스템은 “가장 신뢰하는 모델”이 아니라 모델을 적게 신뢰해도 안전하게 운용할 수 있는 체계를 갖춘 시스템이라고 강조했다.2

Footnotes

  1. Bloomberg Technology, 「Microsoft CEO Nadella Calls for ‘Emergency Brake’ on Advanced AI」 ↩

  2. CNBC Technology, 「Microsoft’s Nadella says AI needs an ‘emergency brake’ that humans control」 ↩ ↩2

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Microsoft's Nadella says AI needs an ‘emergency brake’ that humans control — CNBC Technology · 자료: 2026. 10. 11.
  2. Microsoft CEO Nadella Calls for ‘Emergency Brake’ on Advanced AI — Bloomberg Technology · 자료: 2026. 10. 11.

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요.