인공지능(AI)은 점점 더 많은 결정을 대신 내리고 있다. 자율주행차는 운전자의 개입 없이 도로를 달리고, 의료 AI는 질병 진단을 제안하며, 채용 알고리즘은 지원자의 적합성을 평가한다.

하지만 문제가 생겼을 때, 과연 누가 책임을 져야 할까? 개발자, 기업, 사용자 중 누구도 명확히 “내 책임이다”라고 말하기 어려운 것이 현실이다.

AI의 결정은 인간이 설계한 알고리즘과 학습 데이터에 기반하지만, 그 과정은 종종 ‘블랙박스’처럼 불투명하다. 예를 들어 자율주행차 사고가 발생했을 때, 차량 제조사와 소프트웨어 개발자, 운전자 간의 책임 경계가 모호해진다. 의료 AI의 오진 역시 비슷한 문제를 안고 있다. AI가 추천한 진단을 의사가 그대로 따랐다면, 책임은 누구에게 있는가?

이런 이유로 전 세계적으로 ‘책임 있는 AI(Responsible AI)’의 필요성이 강조되고 있다. AI의 판단이 인간의 생명이나 권리에 영향을 미칠수록, 그 결정 과정의 투명성과 검증 가능성이 중요해진다.

기술은 인간을 돕기 위한 수단이지, 판단의 주체가 될 수 없다. 결국 AI가 내린 결정의 책임은 최종적으로 인간에게 있다. 기술이 발전할수록, 인간의 윤리적 통제와 책임의식이 더욱 중요해지는 이유가 바로 여기에 있다.

한국e마케팅저널 주택규 기자 |