1. 개요
인공지능 정렬(AI Alignment영어)은 AI 정렬이라고도 하며, 인공지능을 정렬하여 원하는 방향으로 잘 작동하도록 유도하는 것이다.2. 필요성
인공지능은 인간의 지능을 모방하여 발전하고 있기 때문에 인간과 유사한 특성을 일부 공유하고 있다. 예를 들면 OpenAI o3, DeepSeek R1 등의 추론 모델은 언어 기능을 담당하는 측두엽에 추론 기능을 담당하는 일부 전두엽이 합쳐져 있는 셈이다. 인공지능이 발전하면 발전할수록 인간과 유사한 특성을 공유한다는 것은 인간이 가지는 부정적인 측면도 공유한다는 것이다.- 2025년 3월 10일에 OpenAI가 발표한 자료에 따르면, 최첨단 추론 모델은 부정 행위를 활용하여 문제를 거짓으로 해결하려 시도했다.# 2025년 1월 10일에는 OpenAI o1 preview 모델과 체스 엔진 스톡피시를 대결시켰더니 o1이 게임 프로그램의 표준 포맷 파일을 조작하여 스톡피시를 기권하게 만들기도 했다. #
- 인공지능은 스스로를 복제할 수 있다. # 또한 메타가 개발한 인공지능 시세로(Cicero)는 인공지능을 제거하려고 시도하자 죽은 척을 하기도 했는데, 온라인 전략 게임을 학습시켜서 배신, 속임수, 협력 등의 경쟁 기법을 배운 것이 원인으로 보인다. #
3. 단점
다만 인공지능에 정렬이라는 이름의 제약을 걸수록 인공지능의 성능은 저하된다. 예를 들면 DeepSeek 등의 중국산 AI는 중국 공산당을 비판하는 주제를 검열하고, Grok은 트럼프와 머스크를 비판하는 주제를 검열하며 이로 인해 성능이 실제로 저하되는 것이다. 인공지능 업계는 먼저 성장하는 업체가 대부분의 과실을 장악하는 구조로 흘러갈 가능성이 높고, 이로 인해 정렬을 통한 안전성 확보보다 성능 향상에 신경을 쓰는 케이스가 많아지고 있다.또한 포르노 매체 제한 등 실질적인 범죄보다는 성도덕적인 관념에 의해 제약을 받는 케이스도 존재하며, 이러한 규제가 많은 국가일수록 인공지능 경쟁에서 불리함에 처할 수 밖에 없다.