그리고 아직 LLM 서비스는 사람 비서만큼 빠른 피드백 흡수를 받지 못한다. 반면 초기 LLM 개발 시도 중에는 SNS 대화 기반으로 즉각적인 재학습을 허용해 놨더니 온갖 저질적인 요구를 낼름낼름 받아먹어 사이버 나치가 되어버린 경우도 있었다. 뭘 배우고 뭘 배우지 말아야 하는지 분별시키고, 출처를 명확히 하고 인지 왜곡을 경계하라는 가르침은, 인간에게 가르치려 해도 20년쯤 걸리는 과정이고 심지어 자주 실패한다. 내 생각에는 수준에 비해 너무 많은 것을 기대하고 너무 많은 것을 의지해 놓고 환각이네 오작동이네 아우성치는 것 같다.