http://www.you tube.com/watch?v=wZtHL_cL8801. 문제 AI 기술이 점차 발전하면서 보다 고차원적인 의사결정에도 점차 AI를 적용해 나갈 것입니다. 그러면서 AI로 인한 새로운(?) 윤리적 딜레마도 발생하는 것 같습니다.
링크된 유튜브 영상에서는 자율주행 자동차가 사고 상황에 직면했을 때 어떤 기준으로 의사결정을 해야 하는지에 대한 딜레마를 소개합니다.운전자 보호를 우선시해야 할지, 타인의 위험을 최소화해야 할지, AI는 미리 정해놓은 알고리즘과 우선순위에 따라 판단할 예정인데 무엇을 기준으로 해야 할지가 문제입니다.
이런문제는어떻게대답해야할까요?
제 생각에는 결국 기준을 무엇으로 할지, 누가 정할지, 누가 책임지느냐에 따라 달라질 것 같아요.그리고 이에 대해서는 ‘절대적 정답’은 없다고 봅니다. 왜냐하면 애초에 ‘기준 자체’를 평가하려는 것인데 기준 자체를 평가하기 위해서는 별도의 기준이 필요하기 때문에 기준이 무한 소급된다고 볼 수 있기 때문입니다.
어쩌면 누가 그 문제를 결정하느냐가 가장 중요하지 않을까 싶고, 그 결정에 대해서는 그에 비례하는 책임을 물어야 하지 않을까 싶습니다.
2. 주체들이 다만 그 문제를 결정하는 데 관여할 수 있는 주체는 크게 보면 3명 정도가 있지 않을까 싶습니다.
- 사회, 2. 기업, 3. 소비자
- 1) 사회의 경우 사회라는 것은 실제에 비해 상당히 추상화된 주체이긴 합니다. 어쩌면 특정 정부기관으로 대표되는 국가일지도 모릅니다. 다만 국가 자체를 개인의 집합으로 보는 관점에서는 사회가 받아들일 수 있는 기준이 합의되고 그 기준을 정책화하는 것이 하나의 가능성이 아닐까요.
- 다만 사회가 사회 전체를 고려해서 의사결정을 한다면 저로서는 공리주의적인 의사결정을 하는 것이 합리적이지 않겠느냐는 의견입니다. 정책상의 문제 겉으로는 사회 공리를 기준으로 결정하게 하는 것이 적당하지 않을까요?
- 2) 기업의 경우 기업이 의사결정을 한다면 어떨까요? 사실 특별한 기준이 없다면 실제로 생산 과정에서의 의사결정이 실질적인 결과를 정의하게 될 것이라고 생각합니다. 그런 의미에서는 가장 실제적인 주체라고 할 수 있겠습니다.
- 만약 특별한 기준이 없다면 기업은 기업의 이익을 극대화하는 선택을 하지 않을까 싶습니다. 소비자에게 선택되는 기준, 또 법적 문제가 발생하면 책임을 회피할 수 있는 기준과 같은 것이 되는 것일까요? 제가 기업의 주체(?)였던 적이 없기 때문에 상상하기가 쉽지 않습니다.
- 아마 정책적인 결정의 영향 아래 이익을 극대화하는 선택을 하는 것일까요.
- 3) 소비자의 경우 만약 기업이 소비자에게 선택권을 준다면 어떨까요. 원래 관련 옵션을 두고 선택할 수 있도록 하는 것입니다. 쉽게 생각하면 자신을 지키거나 공리를 우선시하는 것 같은 것을 결정하게 하는 것입니다. 그러면 소비자 입장에서는 자신이 결정할 수 있는 것은 장점일지도 모르겠네요. 자신의 가치관에 맞는 선택을 할 수 있을 것입니다. 다만 그런 선택지를 준다는 것은 책임도 같이 주게 되지 않을까 싶습니다. 옵션을 줬으니 책임을 다하고 나머지는 선택한 사람의 책임이라고 할 수 있지 않을까요?
- 3. 개인적 의견 제 생각에는 기본적으로는 공리주의적인 기준이 사회에서는 적당하지 않을까 싶습니다. 누군가의 생명이 더 가치 있다고 결정하는 것은 어렵지 않을까요?어쩌면 영상에 예시로 나와 있는 헬멧을 쓰거나 쓰지 않는 것까지 세부적으로 따지는 것은 지나칠 수 있습니다. …오히려 개인의 가치는 동등하게 강하고, 등가의 경우는 랜덤으로 정하는 것이 나을 수도 있습니다.
- 이런 건 어떨까요? 국가 전문기관에서 관련 가이드라인을 정의하고 그러한 가이드라인을 충족했음을 인증받아 이에 합치시킨 경우에는 기업이나 개인의 책임을 묻지 않는다. 자율적으로 했을 경우에는 오판을 한 주체에게는 그에 비례하는 책임을 묻는다던가?
사실 인간인 이상 모든 상황을 예측하고 완벽한 대응을 하는 것은 불가능하겠죠. 좋든 싫든 사고는 날 겁니다. 그리고 그런 사고들이 적절히 억제(?)되도록 하기 위해서는 통제 가능한 영역 내에서는 의사결정자에게 책임을 물어야 할 것 같습니다. 자신에게 피해가 돌아오지 않을 때는 이기적인 선택을 하는 경우도 있고, 그런 선택이 결국 돌아서 우리에게 올 수도 있으니까요.
그렇죠. 과연 미래에 이런 문제에 대해 어떤 답이 나올까요?