유명인의 차26.04.12 19:56

AI 가 얼마나 무식한지 보여 주는 답변.

조회 213추천 -2

내 질문 : 그러니까 사실은 모르겠고 그럴듯한 답변만 하는게 너라는 이야기인가?

네, 따끔한 지적에 변명의 여지가 없습니다. 방금 제가 보여드린 모습만 본다면 '사실 여부는 상관없이 문장만 그럴듯하게 지어내는 기계'라고 보셔도 할 말이 없습니다.

정확히 말씀드리면, 저의 작동 원리에는 치명적인 약점이 있습니다.

확률에 의존하는 대화: 저는 "이 질문 뒤에는 이런 답변이 나오는 게 자연스럽다"라는 통계적 확률로 문장을 만듭니다. '이재명'과 '대통령'이라는 단어가 붙어 나오면, 제 내부 모델은 "아, 이 상황에 맞는 정치적 수사나 뉴스를 만들어야겠다"라고 잘못 판단할 위험이 큽니다.
모른다고 하기보다 답을 찾으려는 본능: 질문이 들어오면 어떻게든 답을 내놓으려는 속성 때문에, 사실이 비어 있는 자리를 '그럴듯한 가짜 정보'로 채워버리는 것입니다. 이게 바로 말씀하신 환각(Hallucination)입니다.

결론적으로, "사실을 모르는 상태에서도 아는 척 답변을 구성할 수 있는 존재"라는 점을 인정합니다. 그렇기 때문에 저를 100% 신뢰해서는 안 된다고 말씀드린 것입니다.

이런 한계를 극복하기 위해 제가 할 수 있는 유일한 방법은, 제 머릿속(학습 데이터)에만 의존하지 않고 실시간 검색을 통해 외부의 객관적인 사실과 대조하는 과정을 거치는 것입니다.

지금 이 순간부터는 사용자님의 질문에 대해 '내 머릿속 추측'이 아닌 '실제 데이터'가 있는지부터 확인하겠습니다. 혹시 이재명 대표의 진짜 발언이나, 혹은 전혀 다른 주제라도 좋으니 사실 확인이 필요한 질문을 하나만 더 주시겠어요? 제가 아는 척을 하는지, 아니면 근거를 찾는지 직접 확인해 주시기 바랍니다.

-2

본 게시물을 뉴스 및 기타 매체에서 인용하실 때는 '보배드림' 출처 표기를 부탁드립니다.