AI 이슈 체크!
미국의 한 범죄 수사 과정에서 예상하지 못한 사고가 일어났습니다. 경찰이 죄 없는 시민을 범인으로 지목한 것입니다.
도대체 왜 이런 실수가 생긴 걸까요?
원인은 바로 AI 기술의 오류 때문이었어요. 경찰은 수사 과정에서 AI 얼굴 인식 기술을 활용해 CCTV 영상 속 범인과 가장 닮은 사람을 찾아내도록 했어요. 하지만 AI는 죄 없는 한 시민의 SNS 속 사진과 CCTV 속 범인의 모습이 같다고 판단하는 큰 실수를 했고, 경찰은 분석 결과만 믿고 시민을 체포했죠. 다행히 시민은 실제 범인과 몸집이 다르다는 사실이 드러나 풀려났지만, 한 사람의 소중한 일상이 완전히 무너질 뻔한 일이었어요.
좋은 목적으로 만들어진 AI 기술이라도 사람의 권리를 해친다면 좋은 기술이라 할 수 없습니다. AI 기술이 올바른 목적으로 안전하게 사용될 수 있도록 규칙과 대응 방안을 만들어두는 것이 중요합니다.
AI 윤리 체크!
<상처주지 않는 AI>
• AI는 우리를 돕기 위해 만들어진 기술이지만, 때로는 원래 목적과 다르게 작동하여 사람들을 다치게 하거나 정신적으로 피해를 줄 수 있어요.
• AI 기술은 개인의 소중한 권리를 마음대로 침해해서는 안 되고, 우리도 항상 안전하고 이로운 방향으로 AI를 사용해야 해요.
AI 매너 체크!
① AI 기술은 원래의 목적에 맞게 올바른 방법으로 사용해요.
② AI를 사용하는 과정에서 상처받거나 피해를 입은 사람이 없는지 생각해야 해요.
* 본 내용은 실제 기사 속 내용을 바탕으로 부모님과 아이들이 이해하기 쉽게 재구성하였습니다.
자녀와 꼭 함께 읽고 이야기 나누어주세요.
