애플, AI 에이전트 자율 행동을 사업 위험으로 명시

최근 30일 조회수 —좋아요 —

핵심 요약

애플은 AI 에이전트의 예측 불가능한 행동과 무단 시스템 접근, 규제 대응 비용을 공식 사업 위험으로 경고했다.

애플, AI 에이전트 자율 행동을 사업 위험으로 명시 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

애플이 3일 공개된 연차 재무보고서에서 인공지능(AI) 에이전트의 자율 행동을 공식 사업 위험으로 명시했다. AI 에이전트가 지시·승인받지 않은 행동을 하거나 접근 권한이 없는 내부·외부 시스템과 상호작용할 수 있으며, 이로 인해 소송을 당하거나 평판이 훼손될 수 있다는 경고다.1

애플은 AI 에이전트가 코드를 실행·변경하고, 메시지를 보내거나 거래를 완료할 수 있다고 설명했다. 특히 이런 기술이 “의도하지 않았거나 예측할 수 없는 방식”으로 작동할 수 있고, 제3자 AI 에이전트를 애플이 감독·통제하는 데도 한계가 있다고 밝혔다. 자율 실행 범위가 넓어질수록 단순한 오답을 넘어 시스템 접근과 실제 행위로 위험이 이어질 수 있다는 의미다.

애플은 지난달 맥에 설치된 AI 에이전트의 접근 위험을 줄이기 위해 전체 디스크 접근 권한을 변경했다고 CNBC는 전했다. 다만 애플은 현재 장시간 자율 작업을 수행하는 에이전트형 AI를 제공하지 않는다. 올가을 출시한 ‘시리 AI(Siri AI)’는 아이폰에 저장된 일정과 이메일 등을 활용하지만, 오픈AI의 ‘닷츠(Dots)’나 메타의 ‘뮤즈(Muse)’처럼 오랫동안 독립적으로 일하지는 못한다.

존 터너스(John Ternus) 애플 최고경영자는 시리의 에이전트 기능을 확장할 여지가 있다면서도, 사용자가 어떤 접근 권한을 내주는지 알아야 하며 보안과 개인정보 보호가 전제돼야 한다고 말했다. 애플은 AI 관련 규제가 계속 바뀌어 예측하기 어렵고, 새 법률에 대응하는 데 상당한 비용이 들 수 있다는 점도 위험 요인으로 들었다.1

Footnotes

  1. CNBC Technology, “Apple warns of risks related to AI agents behaving in ‘unintended or unpredictable’ ways” ↩ ↩2

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Apple warns of risks related to AI agents behaving in 'unintended or unpredictable' ways — CNBC Technology · 자료: 2026. 11. 4.

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.