최근 주요 인공지능(AI) 기업 수장들이 AI 개발 속도 조절을 요구하고 나선 가운데 마이크로소프트(MS)가 관련 행동강령을 공개하며 ‘AI 속도조절론’에 동참하는 움직임을 보였다. 강령에는 AI가 스스로 목표를 설정하거나 권한 범위를 넘어 행동하는 것을 금지하고, 인간이 이해할 수 없는 방식으로 AI끼리 소통하는 것도 제한하는 등 인간의 지시와 통제를 벗어나 독립적으로 행동해서는 안 된다는 내용이 핵심으로 담겼다. MS는 14일(현지시간) 자사 홈페이지를 통해 “‘인간이 AI보다 중요하다’는 단순한 전제에서 출발한다”는 내용을 담은 AI 행동강령을 공개했다. MS는 “이 행동강령은 인간을 최우선으로 하여 설계되고, 인간의 필요에 기반을 두며, 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 의지를 명시한다”고 밝혔다. 행동강령에 따르면 MS의 AI 모델은 인간의 지시에 따라 승인된 범위 내에서만 작동해야 한다. 스스로 독립적인 목표를 설정하거나 부여된 권한 범위를 넘어서는 행동도 할 수 없다. AI가 자신의 추론 과정이나 코드를 조작·은폐하는 행위도 금지된다. 신경망어(neuralese)처럼 인간이 이해할 수 없는 언어를 사용해 AI끼리 소통하는 행위도 허용하지 않기로 했다. AI를 인간처럼 설계해서는 안 된다는 원칙도 제시했다. MS는 “AI는 의식을 갖고 있지 않고 의식을 모방하도록 설계돼서도 안 된다”며 “AI 모델이 법인격 지위 획득을 추구하거나 모델이 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다”고 강조했다. 무스타파 술레이만 MSAI 최고경영자(CEO)는 미 경제매체 CNB
