[김영근의 과학 칼럼] AI의 중립성

과학자의 도덕성과 사회적 책임이란 무엇인가

 

                          

‘AI’라는 단어 요즘 안 들어본 사람이 없을 것이다. 각종 분야에서 ‘AI’가 언급되고 있는데 이는 ‘Artificial Intelligence‘의 약자로 인공 지능을 의미한다. 우리나라에서 사람들의 인식에 ’AI'가 들어오기 시작한 것은 알파고와 이세돌 기사의 대국부터 시작된 거로 기억한다. 이세돌 기사가 알파고를 상대로 고전하는 모습이 인공지능이 어느 정도까지 발전했는지에 대해 사람들의 경각심을 불러일으키게 되었고, 새로운 시대로 가고 있다는 충격을 전 국민이 느꼈을 것이다. 이때 이후로 전 세계적으로 인공지능에 대한 관심이 폭발적으로 증가했고 현재까지 이어지고 있다. 즉, 과거에 데이터 관리 정도의 역할에만 머물러 있던 이 인공지능이 검색과 분석을 통해 그 자체로 학습을 하는 딥러닝의 단계로 넘어가며 4차 산업혁명이 시작되는 현재에 매우 중요한 역할을 하는 것이다. 그렇다면 과연 AI는 4차 산업혁명을 이끌어 간다는 장점만 있을 것일까?

 

 

                    

 

1. 뉴스

 

우리는 이미 신문이 아닌 인터넷 뉴스로 소식들을 접하는 세대가 되었다. 보통 사람들은 포털 대문에 뜨는 기사의 제목만을 읽고 뉴스를 클릭한다. 그렇기에 국내의 대형 사이트에서 어떤 뉴스가 처음 뜨고 사람들의 클릭이 많이 되게 하는지에 따라 어떠한 사건을 띄우거나 묻을 수도 있으며 그렇게 천천히 사람들의 무의식적인 생각을 지배할 수 있다. 국내에서는 네이버와 카카오가 대표적인 포털이라고 할 수 있는데 이들의 기본화면에 뜨는 뉴스가 AI 알고리즘을 통해 배치된다는 사실은 사람들이 잘 몰랐을 것이다. 각각의 설명은 이렇다. AI 알고리즘이 띄우는 뉴스이기 때문에 사람이 개입되지 않기에 뉴스 편집에는 중립성이 있다고 한다. 하지만 여기서 의문이 생길 수 있다. 그 AI 알고리즘이 중립성이 있다는 것은 누가 판단하는가? AI는 규칙 시반의 시스템 설계로 이루어져 있기에 그 자체를 만드는 사람의 생각이 반영될 수밖에 없는 구조이다. 그렇기에 AI 시스템이기에 무조건 중립적이라는 것은 생각해봐야 한다. 어떤 가치에 중심을 두고 판단을 하여 뉴스 편집을 하는 것인지가 중요하다고 볼 수 있다.1  

 

                     

2. 택시

택시의 시대도 바뀌고 있다. 요즘은 길에서 택시를 잡는 것뿐만 아닌 앱을 이용하여 사람들이 택시를 손쉽게 이용한다. 하지만 그 앱을 통하여 그 업계에 속한 차들에만 배차와 콜 등을 몰아 주는 일이 발생한다면 어떻게 되는 것일까? 여러 사람이 의혹을 제기하지만, 여기에도 회사 측의 답변은 같다. AI 인공지능 알고리즘에 따라 운영이 되므로 그런 일은 벌어지지 않는다는 것이다. 그렇다면 우리는 회사에서 말하는 인공지능을 인공지능이니깐 당연히 공정하다고 믿어야 하는가?2

 

 

                      

3. 지도

 

이런 식으로 생각하면 세상의 모든 분야에 다 적용될 수 있다. 예를 들어 내가 만약 가게를 하나 차렸다고 생각해보자. ‘이 가게에 손님들을 어떻게 많이 오게 할까?’ 하고 궁리하다가 요즘 대부분 국민이 이용하는 지도나 내비게이션 앱에 의뢰하는 것이다. 만약 주변에서 관련어를 검색하면 다른 가게들도 있지만 무조건 내 가게로 먼저 연결되게 해달라고. 그렇게 하나둘 하다 보면 자연스럽게 유명한 곳이 될 것이고 다른 가게에 더 적합한 사람들도 검색해보니 내 가게가 나오니 의심하지 못하고 이곳으로 오게 될 것이다. 즉, 이런 식으로 인공지능을 앞세워 조그마한 장난으로 각자의 이익을 불법적으로 늘릴 수도 있는 것이다.

 

즉, 이렇게 AI 알고리즘이라는 것이 이미 실생활에 깊숙이 들어와 있지만, 그 알고리즘을 짜는 사람에 따라 중립적인지 모호하다는 점, 또한 외부 세력에 의해 조작될 수도 있는 위험성 등등 여러 문제가 있다. 알고리즘이 개인에게 맞추어 보여주는 것들도 그 세상, 이념, 성향 등에 갇히게 만들 수도 있으며 여론 선동 또한 가능하다. 한편 어떤 사람들은 초기의 AI는 그런 개발자에 의한 가치반영이 가능했지만, 요즘의 AI는 딥러닝을 통해 스스로 학습하는 인공 신경망이 처리하는 일이기에 중립적이라고 하기도 한다. 하지만 이러한 것이 정말 결점이 없고 중립적이라는 것을 보여주어 사람들의 의심을 피하고 싶다면 알고리즘을 공개해 납득시켜야 한다고 보인다. 예시로 든 뉴스 편집뿐만 아니라 우리 일상 곳곳에 적용되기 시작하는 채용 면접, 입학 심사, 자율 주행 등에 대해서도 이를 설계한 사람의 영향을 확인해 봐야 한다. 마지막으로 알고리즘에 관한 한 단체에서 한 말을 인용해보겠다.

 

 

 

 “국제 정보감시 단체 ‘알고리즘 워치'가 제정한

                            알고리즘 의사결정 선언의 제1항은 ‘알고리즘은 결코 중립적이지 않다’

                                                  2항은 ‘알고리즘 의사결정을 만든 사람은 그 결과에 책임을 져야 한다' 이다."3

 

 

참고 및 인용자료 출처

1.참고 - https://www.fnnews.com/news/202009090701452699
2.참고 - https://biz.chosun.com/site/data/html_dir/2020/09/09/2020090902605.html?utm_source=naver&utm_medium=original&utm_campaign=biz
3.참고- https://biz.chosun.com/site/data/html_dir/2020/09/09/2020090902605.html?utm_source=naver&utm_medium=original&utm_campaign=biz

 

 

 

이 기사 친구들에게 공유하기