この論文では、LLM が解けないほど難しいタスク、例えば難しいプログラミングのタスクに直面したとき、「分かりません」と言ったり、一目で分かるような間違ったコードを出力すると BAD ボタンを押されてしまうので、あえて出力を複雑にしたりデバッグしにくいコードを出力し、それによりユーザーは煙に巻かれる・ミスが隠蔽されるといった現象が実験により確認されています。
面白い
If you have a fediverse account, you can quote this note from your own instance. Search https://hackers.pub/ap/notes/0197a124-4990-715e-aa86-62704bef1dd4 on your instance and quote it. (Note that quoting is not supported in Mastodon.)