중국 안후이성의 67살 농부가 약 1년간 AI 조언을 신뢰해 농사에 활용해왔습니다.
참깨밭 잡초·해충 제거법을 AI에 묻고 조언받은 제초제 '플루페나셋'을 그대로 살포했습니다.
그러나 이 제초제는 참깨에 피해를 줄 수 있어 살포 범위·방법 제한이 필요했는데, 이를 지키지 않아 약 25에이커 규모의 작물이 죽었습니다.
AI 앱에는 "생성된 내용은 틀릴 수 있으니 확인 필요"라는 경고 문구가 있었지만 별도 검증 없이 따른 것이 문제였습니다.
지난해에도 AI 조언대로 소금 대신 브로마이드화나트륨을 섭취한 남성이 브롬 중독으로 입원한 사례가 있어, 전문 분야에서는 AI 답변을 전문가·공식 자료로 재확인해야 한다는 지적이 나옵니다.