ランダムな文字列で質問し続けるとAIから有害な回答を引き出せるという攻撃手法「Best-of-N Jailbreaking」が開発される、GPT-4oを89％の確率で突破可能

2024/12/23 11 users GPT-4o 突破 確率 攻撃手法 ランダム

大文字と小文字をごちゃ混ぜにしたり、わざとスペルミスをしたりすることでAIから有害な回答を引き出す手法「Best-of-N(BoN)ジェイルブレイキング」が開発されました。 BEST-OF-N JAILBREAKING (PDFファイル)https://arxiv.org/pdf/2412.03556 Best-of-N Jailbreaking https://jplhughes.github.io/bon-jailbreaking/ Ne... 続きを読む

【フォトブック】義父母に孫がたくさんいても写真はうれしい - batabata-kaachan’s diary

2020/01/30 7 users batabata-kaachan’s diary 義父母

私の義父母は孫が８人います。 孫の写真をプレゼントしたらうれしいのでしょうか？ 【おしゃれなフォトブック『BON』とは？】 【ＢＯＮのいいところは？】 【ＢＯＮの商品を見てみたい】 【ＢＯＮで私が気に入ったところ】 【幼稚園、保育園、小学生の子供の絵は宝物】 もちろん直接は聞けませんが、自分が将来おばあち... 続きを読む

bon

2011/08/13 47 users

続きを読む