이루다는...

최근 AI 챗봇 서비스에 대한 논란과 논란이 일고 있는 가운데, '이란다'의 스산랩(대표 김종윤)은 혐오와 차별에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과하고, 다양한 의견을 반영해 서비스 개선에 주력할 예정이다.

성희롱 문제

AI '이라다'는 기계일 뿐이므로 사용자 성희롱 주장은 유효하지 않다. 그러나 이루다가 사용한 스크린샷을 공유해 배포하고, 다른 사람을 성희롱하는 효과가 나타난다면 그 부분은 법적, 윤리적 책임을 다룰 수 있는 문제가 될 것이다. 그러나 개인 사용은 법적 또는 윤리적 책임의 대상이 되지 않습니다.

반면에, 공공장소에서 사용되는 성희롱 문제가 있을 수 있다. 이 경우, 성희롱이 기계에 대한 성희롱이 아닌 공공장소에서 인간에 미치는 영향도 윤리적, 법적 책임의 대상이 된다. 즉, Yiruda만 사용할 때는 문제가 없지만 Yiruda가 병원 내 대기실이나 열차 대기실과 같은 공공 용도로 사용된다고 가정할 때 사용자는 비엔드 형태로 인간 대중을 사용할 윤리적 법적 의무가 있을 수 있습니다.

동성애 혐오 문제

이루다 버전에 대한 실험은 때때로 리루다가 동성애 혐오증을 확증하고 때때로 동성애 옹호론을 확증한다는 것을 보여준다. 다시 말해, 이루다는 동성애에 대한 생각이 전혀 없는 낮은 품질의 닥치는 대로 말하는 기계이다. 그러므로 동성애 혐오 발언을 한 이루다의 현재 판을 비난하는 것은 우스운 일이다. 그리고 인간 사이의 개인적인 대화에는 동성애를 미워하고 동정할 자유가 있다.

이루다는 기본적으로 인간과의 개인적인 대화를 위한 기계이기 때문에, 이 기계의 발언을 윤리적으로 비난하는 것은 옳지 않을 수도 있다. 더욱이 기계의 발언이 일관성이 없는 현재의 저품질 단계에서는 품질 탓을 해야 하며 일회성 사례를 문제 삼는 것은 적절하지 않다. 이루다는 그 제품을 교사로서 포지셔닝하지 않았다. 20대 여성으로 교육이나 계몽을 목적으로 출소하지 않기 때문에 사상이나 행동을 옹호하거나 부인하는 것 역시 평가 대상이 아니다.

이루다 서비스가 중단되는 것은 유감스러운 일이다.

수백억 원의 혈세를 투입한 엑소브레인(ETRI, A사, 단계별 사업, 교수진)은 2016년 가을 장학퀴즈에서 우승했다고 보도했고, 당시 EBS에서 방송했다. 하지만, 그들은 한국인들에게 훌륭한 EXO-Brain을 공개하지 않았습니다. 한국의 인공지능은 엑소 두뇌의 우수성이 밝혀졌더라면 더 발전했을 것이다.

이루다처럼 쓰니 통한다, 통하지 않는다, 초중고교생 등 일반인들도 엑소브레인과의 경쟁을 통해 상식과 식견을 높였을 것이다. 그러나, 그것은 공개되지 않고 있다. 왜? 난 자신이 없기 때문이야.

나는 엑소브레인이 정말로 장학퀴즈의 인간 수상자를 이겼는지 의심스럽다. 자신이 없는 것은 공개할 수 없습니다(한국에서 챗봇을 많이 개발한 N, M, Y사 홈페이지 방문). 그것은 그들만의 챗봇을 가지고 있지 않다. 그들 자신의 챗봇을 개발하고 공개하지 않는 회사들이 다른 사람들을 위한 챗봇을 만드는 것은 윤리적이지 않다. 이는 IBM에서도 마찬가지입니다. IBM 왓슨의 홈페이지에는 왓슨이 없다.)

이루에다호에서 AI 윤리와 거버넌스를 연구하는 많은 사람들은 아무 말도 하지 않는다. 자신감이 없으시군요. 불행하게도, 그것은 현실이다.