https://www.youtube.com/ watch? v=wZtHL_cL8801. 문제 AI 기술이 점차 발전하면서 보다 고차원적인 의사결정에도 점차 AI를 적용해 나갈 것입니다. 그러면서 AI로 인한 새로운(?) 윤리적 딜레마도 발생하는 것 같습니다.
링크된 유튜브 영상에서는 자율주행 자동차가 사고 상황에 처했을 때 어떤 기준으로 의사결정을 해야 하는지에 대한 딜레마를 소개합니다.운전자 보호를 우선해야 할지, 타인의 위험을 최소화해야 할지 AI는 미리 정해둔 알고리즘과 우선순위에 따라 판단을 하는데 무엇을 기준으로 해야 할지가 문제입니다.
이 문제들은 어떻게 대답해야 할까요?
내 생각에는 결국 기준을 무엇으로 할지, 누가 정할지, 누가 책임지느냐에 따라 달라질 것 같아요.그리고 이에 대해서는 절대적 정답은 없다고 생각합니다. 왜냐하면 애초에 기준 자체를 평가하려는 것인데, 기준 자체를 평가하기 위해서는 별도의 기준이 필요하기 때문에 기준이 무한 소급된다고 볼 수 있기 때문입니다.
어쩌면 누가 그 문제를 결정하느냐가 가장 중요하지 않을까 싶고, 그 결정에 대해서는 그에 비례하는 책임을 물어야 하지 않을까 싶습니다.
2. 주체이지만 그 문제를 결정하는 데 관여할 수 있는 주체는 크게 보면 세 가지 정도가 있지 않을까 싶습니다.
- 사회, 2) 기업, 3) 소비자
- 1) 사회의 경우 사회라는 것은 실제에 비해 상당히 추상화된 주체이긴 합니다. 어쩌면 특정 정부 기관으로 대표되는 국가일지도 모릅니다. 다만 국가 자체를 개인의 집합으로 보는 관점에서는 사회가 수용할 수 있는 기준이 합의되고 그 기준을 정책화하는 것이 하나의 가능성이 아닐까요.
- 다만 사회가 사회 전체를 고려해 의사결정을 한다면 저로서는 공리주의적인 의사결정을 하는 것이 합리적이지 않겠느냐는 의견입니다. 정책상의 문제 상횡에서는 사회공리를 기준으로 정하도록 하는 것이 타당하지 않을까요?
- 2) 기업의 경우 기업이 의사결정을 하면 어떨까요? 사실 특별한 기준이 없다면 실제로 생산 과정에서의 의사결정이 실질적인 결과를 정의하게 될 것입니다. 그런 의미에서는 가장 현실적인 주체일 수도 있겠네요.
- 만약 특별한 기준이 없다면 기업은 기업의 이익을 극대화하는 선택을 하지 않을까 생각합니다. 소비자에게 선택되는 기준, 또 법적 문제가 발생하면 책임을 회피할 수 있는 기준과 같은 것이 될까요? 제가 기업의 주체(?)였던 적은 없어서 상상하기는 쉽지 않습니다.
- 아마도 정책적인 결정의 영향 아래 이익을 극대화하는 선택을 할 것입니까?
- 3) 소비자의 경우 만약 기업이 소비자에게 선택권을 준다면 어떨까요? 애초에 관련 옵션을 두고 선택할 수 있도록 하는 겁니다. 쉽게 생각하면 자신을 지킬 것인가, 공리를 우선할 것인가 하는 것을 결정하게 하는 것입니다. 그러면 소비자 입장에서는 스스로 결정할 수 있는 것은 장점일지도 모르겠네요. 자신의 가치관에 맞는 선택을 할 수 있을 것입니다. 다만 그런 선택지를 준다는 것은 책임도 같이 주는 것이 아닐까 생각합니다. 옵션을 줬으니 책임을 다하고 나머지는 선택한 사람의 책임이라고 할 수 있지 않을까요?
- 3. 개인적인 의견, 제 생각에는 기본적으로 공리주의적인 기준이 사회에서는 적당하지 않을까 싶습니다. 누군가의 생명이 더 가치 있다고 결정하기 어렵지 않을까요?어쩌면 영상에 예시에 나온 헬멧을 쓰거나 쓰지 않거나 하는 것까지 세세하게 계산하는 것은 지나칠지도 모른다는 생각도 듭니다.오히려 개인의 가치는 동등하게 강해지지만, 등가의 경우는 랜덤으로 정하는 것이 좋을지도 모릅니다.
- 이런 건 어떨까요? 국가 전문기관에서 관련 가이드라인을 정의하고, 그러한 가이드라인을 충족하였음이 인증되어 그에 합치된 경우에는 기업이나 개인의 책임을 묻지 않고… 자율적으로 한 경우에는 잘못된(?) 판단을 한 주체에게는 그에 비례하는 책임을 묻는다든가?
사실 인간인 이상 모든 상황을 예측하고 완벽한 대응을 하는 것은 불가능할 것입니다. 좋든 싫든 사고는 날 거예요. 그리고 그러한 사고가 적절히 억제되도록 하기 위해서는 통제 가능한 영역 내에서는 의사결정자에게 책임을 물어야 할 것 같습니다. 자신에게 피해가 돌아오지 않을 때는 이기적인 선택을 하는 경우도 있고, 그런 선택이 결국 돌아가 우리에게 올 수도 있을 테니까요.
그렇죠. 과연 미래에 이런 문제에 대해 어떤 답이 나올까요?