リーディングビュー

OpenAI To Limit New Model Release On Cybersecurity Fears

✇Slashdot
著者: BeauHD

🤖 AI Summary

OpenAIは、広範囲なリリースが大規模な混乱を引き起こす可能性があるため、新しいサイバーセキュリティ製品の提供を一部のパートナーに限定すると報告されています。この動きは Anthropic が Mythos モデルや Project Glasswing イニシアチブで取った方法と似ています。

2月に GPT-5.3-Codex(OpenAIの最高峰のサイバーセキュリティ機能を持つモデル)を導入した後、OpenAIは「Trusted Access for Cyber」パイロットプログラムを開始しました。このプログラムには招待制で参加可能で、「合法的な防御作業を加速するためのより高度な機能や許容度が高いモデルへのアクセス」が提供されています。当時、OpenAIは参加者に100万ドル分のAPIクレジットを提供しました。

サイバーセキュリティベンダーがソフトウェアのセキュリティ脆弱性の開示方法に対処する手法と似たような議論が繰り広げられています。モデルが新たな脅威を作成する能力に対して懸念がある場合、新しいAIモデルのリリースを段階的に行うのはより合理的だという見解もあります。Stanislav Fort(セキュリティ会社 Aisle のCEO)は Axios に語りました。

関連記事:中国天津スーパーコンピュータセンターからハッカーが1ペタバイトのデータを盗む
Anthropicは「Claude Mythos」、強力なAIでサイバーテクノロジーへの影響重大
アマゾンはNvidiaに挑戦し、Trainium AIチップを第三者にも販売する可能性
OpenAI is reportedly preparing a new cybersecurity product for a small group of partners, out of concern that a broader rollout could wreak havoc if it were released more widely. If that move sounds familiar, it's because Anthropic took a similar limited-release approach with its Mythos model and Project Glasswing initiative. Axios reports: OpenAI introduced its "Trusted Access for Cyber" pilot program in February after rolling out GPT-5.3-Codex, the company's most cyber-capable reasoning model. Organizations in the invite-only program are given access to "even more cyber capable or permissive models to accelerate legitimate defensive work," according to a blog post. At the time, OpenAI committed $10 million in API credits to participants. [...] Restricting the rollout of a new frontier model makes "more sense" if companies are concerned about models' ability to write new exploits -- rather than about their ability to find bugs in the first place, Stanislav Fort, CEO of security firm Aisle, told Axios. Staggering the release of new AI models looks a lot like how cybersecurity vendors currently handle the disclosure of security flaws in software, Lee added. "It's the same debate we've had for decades around responsible vulnerability disclosure," Lee said.

Read more of this story at Slashdot.

  •  
❌