物語る。ナラティブセラピーで人の心を癒すかと思ったら、ナラティブで敵国の情報工作を行うなど。最近本当によく目にするようになった「ナラティブ」ですが、とうとうナラティブを使って、AIシステムをジェルブレイクする手法まで出てきました。この手法の発見は、AIシステムの安全性に大きな課題を提起しています。従来の安全対策では不十分であり、対話レベルでの監視や説得サイクルの検出、堅牢なAIゲートウェイの導入など、新たな対策が必要になると考えられます。AIシステムの安全性を高めるためには、技術的な対策だけでなく、倫理的な側面からも検討する必要があるのかもしれません。 本日はこの物語でAIを騙すということについて深ぼってみます。