고전 영화인 로보캅에서는 ed209라는 자율형 인공지능 무장 경찰을 만듭니다.

군용도 겸용인 이 기체는 인공지능을 이용해 작동하지만, 작중에서는 참사를 부르지요.

1. 무고한 인명 보호와 치안 안정, 사회 질서를 최우선 목적에 둔다.
2. 무장한 인간이 위험행동을 할 경우 무장 해제를 강력히 지시한다.
3. 2의 지시에 거부할경우, 주변의 인명을 지키기 위해 가장 인명피해가 적은 형태로 제압한다.
4. 명확한 무장 해제가 확인되지 않을 경우, 3을 실행한다.

4개의 명령 모두 지극히 온당하고 사고를 막기 위해 최선을 다한 인간의 명령어입니다.
인간이 인간 경찰에게 내린 가이드라인일때 말이지요.
하지만 AI에 입력하면 전혀 다른 형태로.. 작동됩니다.
인간과 달리 몇십개의 보조 명령과 가이드라인, %에 따른 행동을 결정해둬도
인간의 기대와 다른 결과가 나오지요.
작중에는 오작동이자 실패라고 나오지만, 공학적으로는 제대로 작동한 게 맞구요.




적군의 해킹을 통한 하이재킹이나 재밍을 막기위해, 
군용 살상병기가 무인화될 경우는
자율형 인공지능을 탑재시켜 독립적인 발포-사살 결정을 내려야 합니다.
그리고 그 초기형 인공지능 로봇 병사는, 높은 확률로 민간인과 적병을 구분 못할겁니다.
특히 게릴라전이나 대테러전에서 말이지요.

인공지능 군용화에 대한 러다이트 운동이나 인공지능 혐오가 아닙니다.
아직도 한참 갈 길이 멀고, 시기상조라는 의미이지요.


규정 짤.