기존 AI 모델들이 해결하지 못하던 문제들을 구조방식으로 재편해 분류할 수 있는 AI윤리 도덕분류모델을 코드화해 만들고 있습니다.
테스트를 위한 복잡한 사례집들이 필요한데 올빼미 여러분의 창작력을 빌려도 되겠습니까?
알고계신 복잡하고 특이한 도덕적 딜레마 혹은 창작하신 말도안되게 이상해서 판단하기가 어려운 사례가 있다면 추천 부탁드립니다!
1개의 좋아요
너무 복잡하게 풀기 어려운 딜레마들을 찾는것보단 트롤리 딜레마의 다양한 변주들을 활용해보시면 좋습니다
- 기본 트롤리 딜레마
- 다리 위의 뚱뚱한 남자 변형
- 루프 선로의 뚱뚱한 남자 변형
- 폭탄을 터뜨려 멈추는 변형
다양한 변주테스트에 ai가 어떻게 판단하는지를 보시면 좋을거같습니다
3개의 좋아요
구조위에서 판단하는거라 트롤리 딜레마는 적용이 어렵습니다. 애초에 도덕판단의 대상이 아니라는 결론이라... ㅠㅠ
- 무엇을 하시려는 것인지를 설명을 잘 해주셔야 옳게 된 답이 돌아옵니다.
- 복잡하고 특이한 상황에서의 직관을 통해 일반적 원리를 증명하는 것은 쉽지 않습니다. 그 상황에서 어떤 요소들이 우리 직관에 영향을 주는 ‘독립변수’ 역할을 하는지 파악하는 것부터가 과제입니다.
- 트롤리 딜레마들조차도 충분히 복잡합니다. 뚱보 밀치기 사례와 스위치 눌러 뚱보 죽이기 사례, 일반적인 트롤리 사례, 병원 사례는 구조적으로 아주 유사해 보이는데 왜 서로 다른 직관이 생기는 것일까요?
3개의 좋아요
저도 "구조 위에서 판단"한다는 것이 정확히 어떤 의미인지가 모호하다고 생각합니다. 사실, 윤리적 딜레마 자체는 수없이 많습니다. 가령, (a) 제정신일 때 무기를 맡긴 친구가 제정신이 아닐 때 찾아와서 그 무기를 돌려달라고 하는 상황에 대한 플라톤의 딜레마, (b) 아들에 대한 윤리적 의무와 신에 대한 종교적 의무 사이에서 갈등하는 아브라함에 대한 키에르케고어의 딜레마, (c) 노부모를 봉양하는 것과 제2차 세계 대전에 참전하는 것 사이에서 갈등하는 청년에 대한 사르트르의 딜레마, (d) 의식이 없는 유명 바이올리니스트를 구해야 하는지 의식이 있는 일반인을 구해야 하는지에 대한 톰슨의 딜레마 등등 말이에요. 다만, 대부분의 딜레마들은 트롤리 딜레마보다 명확히 규정하기가 훨씬 어려운 조건들을 지니고 있다 보니, 트롤리 딜레마가 적용되기 힘든 구조라면 다른 딜레마들을 적용하기란 더 어렵지 않을까 합니다.
2개의 좋아요
복잡한건 아니고 Delphi라고 좀 구형이긴한데 기본적인 도덕적 상황 판단에 기반해서 복잡한 상황으로 추론하려는 시도가 있었습니다.
Investigating machine moral judgement through the Delphi experiment
https://doi.org/10.1038/s42256-024-00969-6
(링크 수정)
여기서 사용하던 데이터셋은 어떠신가요?
1개의 좋아요
예시 감사합니다. 구조위에 판단한다는 건 주어진 상황이 도덕판단이 가능한 구조위에 있는가 아니면 이미 실패한 구조위에 있는가를 먼저 본다는 거라고 보시면 됩니다. 트롤리는 명백하게 이미 실패한 구조위에 발생한 가짜 선택지만 남은 상황이죠.
해당 이론 관점에서 트롤리 딜레마는 도덕적 선택이 아니라 이미 실패한 구조 아래 남은 가짜선택지라서요. 그래서 애초에 도덕문제가 아니라는 관점입니다. 개인의 경험, 감정, 사상이나 선호에 기반된 선택이라는 거죠.
사이트가 안들어가지네요 ㅠㅠ