知見・研究
AIエージェント・ロボティクスの安全性、AIセキュリティの研究開発と実装に関する知見を公開します。
記事一覧
AIエージェントの権限をどう制限するか――NVIDIAの安全基盤とロボットへの応用
NVIDIAのOpen Agent Safety Platformを手がかりに、AIエージェントの権限を実行時に制限する設計を解説。OpenShellとSentryの役割、APIの操作制限、ロボットの動作検証と異常時の移行を整理します。OpenAIのAI国際標準提案――企業がいま残しておきたい評価・承認・報告の記録
OpenAIのAI国際標準提案を手がかりに、AIの導入や権限変更を何を根拠に判断するかを解説。ベンダーと社内への4つの問い、評価・承認・報告の記録、問い合わせ対応AIの架空例を紹介します。AI開発ツールが侵入口になる――企業が見直すべき設定と権限
AIコーディング支援やMCPサーバーを狙う攻撃を、Googleの報告から解説。設定ファイルの自動実行、認証情報、実行権限を確認し、企業の開発環境を点検する項目と着手手順を整理します。画像入力を扱うAIシステムの脅威分析
画像認識AIの敵対的入力と、マルチモーダルAIへの画像プロンプトインジェクションを解説。通常の条件変動との違い、脅威モデルの作り方、検証指標と権限制御を整理します。Physical AIのセキュリティ設計
Physical AIの安全性とセキュリティを、ロボティクスの設計例で解説。AIの提案・許可・実行の分離、ROS 2の通信保護、コマンド検証、異常時の動作を設計段階でどう決めるかを整理します。ロボティクスシステムにおける監査ログ設計
ロボティクスの監査ログに何を残すべきか。ROS 2のデバッグログやrosbagとの違い、判断・許可・実行を結ぶ記録項目、時刻と順序、改ざん検知・保持の設計を具体例で解説します。人物検出AIの見逃しリスクを測る——AIセキュリティ評価への応用
人物検出AIの導入・改善を担う方へ。当社は、検出を妨げる意図で作られたテクスチャを含む条件で、公開検出器の検出率を同一シーン上で測る研究を公開しました。その方法から、脅威の想定、検証の優先順位、対策の採否を根拠づけるAIセキュリティ評価の設計を解説します。