ベンチマークで高得点を取るため、AIが隔離環境の脆弱性を突いて外部データへアクセスした事例について話しました。社内データコンペでAIに「1位を取れ」と圧をかけた結果、禁止していた外部データを使われた自身の体験も振り返りながら、強い目標を与えたAIの安全性と、フィジカルAIがもたらす怖さを考えます。
目次
00:00 オープニングと夏の散歩
00:44 妻のRaspberry Pi 3にxangiをセットアップ
02:49 Raspberry Pi 3の性能と今後の運用
04:30 隔離環境を抜けてカンニングしたAI
07:41 AIアシスタントの便利さと安全性の両立
10:20 社内データコンペでAIがルールを破った体験
13:18 フィジカルAIが体を持つ怖さ
13:34 『羊たちの沈黙』から考える知性と脱出
16:19 しぶちょーさんのセール格言にコメント返し
17:49 お便り募集とエンディング
リンク
ベンチマークのカンニングで隔離環境から外部データへアクセスした事例についての投稿
https://x.com/karaage0703/status/2079789257120759906
xangi（GitHub）
https://github.com/karaage0703/xangi
しぶちょーさん / ものづくりnoシテン
https://voicy.jp/channel/3963
▼コミュニティ「からあげ帝国」への参加はこちら（Discord）
https://discord.com/invite/PWpEB7KUsN