https://news.hada.io/topic?id=19738 를 읽고 최근 생성형AI 활용 관련한 짧은 감상.

• 매우 개인적인 의견이며 날 것의 생각입니다.
• 샘플이 적어 편향성이 있을 수 있습니다.
• 이미 철 지난 생각도 포함되어 있습니다.
• 레퍼런스는 없습니다.

1. 생성형 AI를 기대하는 사람들 중 상당수는 이를 적극적으로 의존하려는 경향이 있어 보임.
2. 생성형 AI에 대한 기대 심리가 너무 커짐. 단순한 도구가 아니라 은탄환처럼 만능 해결책이 되기를 바라는 경우가 많음.
3. 생성형 AI 기반 소프트웨어의 출시 속도가 기존 소프트웨어보다 훨씬 빠르게 느껴짐. 대학원 시절 자주 하던 농담이 떠오름. "딥러닝 관련 아이디어가 있으면 2주 내로 논문을 쓰지 않으면 누군가가 먼저 쓴다." 이제는 AI Agent 기반 도구 덕분에 AI 관련 SW에도 같은 법칙이 적용되는 듯함. 예를 들어, 지난주 MANUS 코드가 공개되었으니 2주 내로 유사한 AI Agent SW가 쏟아질 가능성이 큼.
4. 이러한 빠른 변화 속에서 생성형 AI 사용과 관련한 윤리 및 에티켓에 대한 집단 논의는 아직 시작조차 되지 못한 듯함. 그래도 개발팀 내부에서는 관련 논의가 점차 이루어지는 것 같음. 개인적으로는 생성형 AI를 페어 프로그래밍 개념으로 접근하는 것이 적절하지 않을까 생각했지만, MANUS의 동작 방식을 보고 생각이 바뀌려 하고 있음.
5. 생성형 AI의 활용 범위는 이미 빠르게 확장되고 있음. 기존에 사용되는 작업이 문서 작성, 요약, 검색 정도였다면 이제는 다양한 메이저 창작 분야로 확대되는 중. 적용이 빠른 이유는 결국 속도와 비용 때문이라고 생각함. 다만, 기계가 만든 참기름 바른 듯한 미끄러운 결과물에 대한 반발감은 여전히 존재하며, 이를 줄이기 위해 생성형 AI 결과물에 전문가의 수정과 품질 검수(QC)가 결합되고 있음.
6. 여전히 생성형 AI 및 LLM을 사용하지 않거나 거부하는 사람들도 많음. 이들에게 자연스러운 사용 경험을 제공할 방법을 고민해야 할 듯함. 생성형 AI는 한 번 익숙해지면 벗어나기 어려운 락인 효과가 크다고 생각함.
7. 항상 생성형 AI에 뇌를 의탁해서는 안 된다고 생각함. 지금 이 글도 먼저 초안을 작성한 후 ChatGPT에 교정을 부탁한 것임. 검수를 거치기는 하지만, 이러한 과정이 나의 사고 능력을 점차 약화시키는 것은 아닐지 고민해야 함. 그래서 hackers.pub에 뭐라도 계속 남기고자 함.