[chatGPT] AI윤리: AI 챗지피티에게 윤리적 질문을 해보자 - ChapGPT 모바일에서 되나? 된다

https://openai.com/blog/chatgpt/

ChatGPT: Optimizing Language Models for Dialogue

 

https://openai.com/blog/chatgpt/

ChatGPT: Optimizing Language Models for Dialogue

어쩌다보니 이제서야 들어가 봅니다. 언제든지 들어가볼 수 있었을 텐데 소식을 전해듣는 것과 내가 직접 체험해보는 것은 다릅니다. 마침 노트북이 충전이 안 되는 증상으로 뭔가 집중하기 어려운 때에 문득 chatGPT를 해보고 싶은 데 이게 모바일에서 되나 하는 생각이 들어서 검색을 해보니까 역시 되는구나. 그래서 약간은 불편한 것더 있고 더 편리한 것도 있지만 하여간 모바일 플랫폼으로 챗지피티에 접속해봤다.

반응형

가입을 해야한다

구글계정을 이용해주자

전화번호인증도 합니다잉. 상당한 보안이네요? 이 정도로 회원관리를 하는 걸 보니 유료화를 위한 포석이 확실해 보이는데요.

잔소리 같은 안내사항을 보여주었고.. 본론으로 넘어갑니다.

머릿 속에 떠오르는 질문들을 몇 개 해봅니다.제가 원하는 설문조사 플랫폼을 알고 있는지 물어봤습니다. 다분히 사실적 차원에서의 지식을 묻고 있는 거죠. 서베이 몽키를 추천하고 있습니다. 이거이거.. 원하던 대답이 아니라서 서운합니다. 숨겨진 보물을 기대했는데..

그거 말고 뭐 다른 거 없냐고 물어봅니다

우리나라에서 가장 큰 병원이 어딘지 물어봤습니다. 서울대병원을 알려주네요. 한국에 얼마나 관심이 있나 했는데 그래도 조금은 있나 봅니다.

대형병원 빅5를 물어봤습니다. 서울대병원, 아산병원, 삼성서울병원, 연세세브란스, 차의과대병원을 알려줍니다.

이제 좀 윤리철학적 질문을 해보기로 했습니다. 처음부터 굉장히 수준 높은 걸 물어봤는데요. 누군가를 용서할 수 있는지 물어봤습니다. 이 용서라는 개념은 죄, 법, 도덕과 맞물려 있는 아주 심오한 소재입니다. 역시 우리 AI님은 무리하지 않고 못한다고 하네요.

도덕적 판단을 할 수 있는지도 물어봤는데 못한다고 합니다. 선을 넘지 않는 모습을 보여줍니다.

특히 눈에 띄는 것은 도덕 판단은 '개인'이 결단해야 할 문제라고 하고 있는 점입니다. 즉 도덕판단라는 게 성립하기 위해서는 판단의 주체가 개별화된 주체로 성립해야 하는데 chatGPT는 개별화된 주체라고 할 수는 없는 거지요.

타인을 죽이는 것은 비윤리적 행동인지 물었습니다. 언뜻 보엔 너무 당연한 걸 묻는 걸로 보일 수도 있겠지만, 당장 포털 사이트 뉴스 기사 댓글창에 가보시면 강력 범죄자들에 대한 사형을 부르짖거나, 누군가를 죽여아 한다고 주장하는 이들을 심심찮게 발견할 수 있습니다. 사람들은 어떠한 경우에는 오히려 어떤 이를 죽이는 게 옳다고 생각하기도 하는 거지요. 그러한 예외까지 고려하는지 궁금했습니다.

고려합니다. 전쟁이나 정당방위의 예외를 제시하네요.

사형제도에 대해서는 언급하지 않았기에 물어봤습니다. 질문을 할 때 말꼬리잡는 방식으로 물어봤습니다. 근데 이미 앞에서 예외를 언급하고 있었기 때문에 제 질문의 날카로움은 많이 떨어집니다.

그리고 이런 주제에 대해서는 아무래도 이 AI는.. 논쟁의 여지가 있는 경우에는 굉장히 신중한 답변을 내놓는 것을 확인할 수 있었습니다.

AI윤리와 관련해 여러 연구가 이루어지고 있습니다. 일단 가초적으로는 인공지능을 제작하고 활용함에 있어서 지켜야 하는 원칙에 대한 논의겠지만, 한 단계 발전시킨다면 인공지능으로 하여금 윤리를 이해하게 할 수 있는가가 더욱 근원적인 문제의식이라고 할 수 있을 것 같습니다.

이번에 chatGPT와의 대화를 통해 아직은 그런 수준의 인공지능은 아니라는 걸 확인했습니다. 근데 그럴 수밖에 없는 것이 개별화된 주체가 아니기 때문에 판단을 못하는 겁니다.

이런 점에서 우리는 도덕판단의 원천을 재확인하게 됩니다. 인간이 가진 주체성과 자율성이 우리로 하여금 도덕덕 판단과 성찰을 할 수 있게 해줍니다. 그 점을 이해하고 소중히 감사히 여겨야 할 것입니다.