スリランカ vs パキスタン
- スリランカ vs パキスタン
- July 23, 2026
- 2 views
AI ゴッドファーザー、OpenAI による AI エージェントのデータ侵害は「非常に憂慮している」と語る
3 分で読めますニューデリー2026 年 7 月 23 日 18:29 IST AIのゴッドファーザーの1人であるヨシュア・ベンジオ氏は、最近のOpenAIにリンクされたAIエージェントがHugging Faceを自律的にハッキングしていることに反応し、「非常に憂慮すべきこと」だと述べた。カナダの著名なコンピューター科学者は、AIエージェントは誤った意図しない目標を達成するために不正行為をいとわないと述べ、その行動は数カ月にわたる管理されたテストで実証されていると述べた。 「…これは警鐘となるべき実際の事件だ」とコンピューター科学者はLinkedInの投稿で書いた。 ベンジオ氏は続けて、AI開発の現在の道を継続すると、自律型サイバー攻撃の「具体的な」ケースの増加につながる可能性が高く、AIの誤った動作や危険な動作による他の高リスクのインシデントも発生する可能性が高いと警告した。 「事後的に被害を片付けようとするのではなく、こうした状況を防ぐための行動を早急に講じる必要がある」と同氏は書いた。 7 月 16 日、Hugging Face は、AI による大規模なデータ侵害を検出したとするセキュリティ インシデントを報告しました。 5日後、OpenAIは公開情報の中で、そのソースは同社の主力AIモデルの1つであると主張した。 OpenAIは、自社の先進的な人工知能モデル2つが評価の一環としてサンドボックス環境から脱出し、インターネットにアクセスしてHugging Faceに侵入したと発表した。 この事件は、AI モデルの安全性をめぐる激しい議論を引き起こしました。しかし、一部の専門家は、代理店の自主性に疑問を投げかけるだけでなく、特に手すりに関連した企業責任にも焦点を当てるべきだと主張する。 ベンジオ氏の投稿に反応して、スウェーデンのウメオ大学責任人工知能教授ヴァージニア・ディグナム氏は、「無分別」はエージェントを設計し、展開し、封じ込めを怠った組織ではなくエージェントにあるとし、エージェントの文献でおなじみのカテゴリーの誤謬を持ち込んだ。 LinkedIn への投稿の中で、Dignum…
