한 체스 대회에서 예상하지 못한 사고가 일어났습니다. 대회에 참가한 어린이가 자신의 차례를 맞아 체스 말을 움직이려고 손을 뻗은 순간, 로봇이 갑자기 어린이의 손가락을 강하게 움켜쥔 것입니다. 이 로봇은 어린이가 자기 차례가 되자마자 너무 빨리 움직이는 바람에 오작동을 일으킨 것으로 드러났습니다. 체스 규칙은 완벽히 학습했지만, 규칙을 벗어난 사람의 돌발 행동에는 제대로 동작하지 못한 것입니다. 더 큰 문제는 오작동이 일어났을 때 사람을 보호할 안전 시스템이 없었다는 점이었습니다. 위험을 감지하고 즉시 작동을 멈추는 기능이 없었기 때문에 결국 사람을 크게 다치게 했습니다. AI 기술을 만들 때는 뛰어난 능력도 중요하지만, 사람을 안전하게 보호하는 것을 가장 먼저 생각해야 합니다. 어떤 상황에서도 사람의 안전을 먼저 지켜주는 AI 기술이 우리가 만들어가야 할 멋진 기술 아닐까요?
AI 윤리 체크!
AI는 학습된 데이터를 바탕으로 스스로 판단하고 행동할 수 있을 정도로 똑똑하지만
프로그램에 오류가 생겨 오작동하면 사람에게 피해를 줄 수 있어요.
AI 기술은 사람을 안전하게 보호하도록 개발되어야 하고, 우리도 주의를 기울여 AI를 사용해야 해요.
AI 매너 체크!
* 본 내용은 실제 기사 속 내용을 바탕으로 부모님과 아이들이 이해하기 쉽게 재구성하였습니다. 자녀와 꼭 함께 읽고 이야기 나누어주세요.
