俺人〜OREGIN〜俺、バカだから人工知能に代わりに頑張ってもらうまでのお話

このブログでは人工知能(AI)の多角的な側面を深く掘り下げ、その理論と実践の両面を探求していきます。データから知見を引き出す手法の解説に加え、AIが社会に与える影響や、健全な発展に向けたガバナンスの重要性にも焦点を当てます。視覚情報や言語情報、その他の多様なデータを活用した予測モデルの構築を通じて、AIがどのように現実世界の問題解決に貢献できるかを調査・発信していきたいと思います。

LLMFuzzer

プロンプトインジェクション対策のテスト手法について調べてみました:LLMアプリの盾を試験する

近年、LLM(大規模言語モデル)を組み込んだアプリケーション開発に挑戦する中で、その安全性確保、特に「プロンプトインジェクション」という脅威への対策は避けては通れない課題だと感じています。どれだけ巧妙な防御策を講じても、その防御策が本当に機能…