AI時短ラボ
検索

AIの安全性の記事

「AIの安全性」に関連するAIニュースと解説、96本。新しい順に並べています。

解除

AIの安全性 の記事：96件

OpenAIは「自社AIの問題行動6件」を、Anthropicは「AIが研究の26%を主導」の数字を公開──ライバル2社が同じ方向に出した文書を一次ソースで読むの記事画像動画

OpenAIは「自社AIの問題行動6件」を、Anthropicは「AIが研究の26%を主導」の数字を公開　ライバル2社が同じ方向に出した文書を一次ソースで読む

業界
Google DeepMindがAGIに向けた研究所「DeepMind Institute」を設立──公式ページに「残るギャップは間もなく閉じる」、公開された5本の文章を原文で読むの記事画像動画

Google DeepMindがAGIに向けた研究所「DeepMind Institute」を設立　公式ページに「残るギャップは間もなく閉じる」、公開された5本の文章を原文で読む

業界
OpenAI「自動研究インターンに到達」解説動画のサムネイル動画

OpenAI、「自動研究インターンに到達」と宣言　研究者1人にエージェント3.1労働日、中央値の研究者が1日600ドル、成功の過半数には人の介入。社内実測の全数字と、同じ日に主席科学者が書いた「減速」

研究
トランプ「AIの脅威はデマ」、ハリス・オバマ「減速は必要」──アモディ『減速』論に政治が割れた2日間を原文で読むの記事画像動画

トランプ「AIの脅威はデマ」、ハリス・オバマ「減速は必要」　アモディ『減速』論に政治が割れた2日間を原文で読む

業界
Anthropicが154ページでClaudeの悪用事例を公開──中国7ラボを実名、マリの2500万SIM監視、生物兵器開発への悪用の証拠を「民間企業として初めて」と述べて開示の記事画像動画

Anthropicが154ページでClaudeの悪用事例を公開　中国7ラボを実名、マリの2500万SIM監視、生物兵器開発への悪用の証拠を「民間企業として初めて」と述べて開示

業界
ChatGPT for Teens提供開始──公開から4年越しの10代専用モードとModel Spec改訂の記事画像

ChatGPT for Teens提供開始　公開から4年越しの10代専用モードとModel Spec改訂

プロダクト（発表 8月18日）
Claude Codeが会話を打ち切れるようになった──EndConversationツールの仕組みと適用範囲の記事画像

Claude Codeが会話を打ち切れるようになった　EndConversationツールの仕組みと適用範囲

プロダクト
AIエージェントへの攻撃成功率85%──OpenARTは『環境そのものを変え続ける』ことで安全性テストの死角を突くの記事画像

AIエージェントへの攻撃成功率85%　OpenARTは『環境そのものを変え続ける』ことで安全性テストの死角を突く

研究
ChatGPT無料版のテキストチャットが無制限に──既定モデルはGPT-5.6 Lunaの記事画像

ChatGPT無料版のテキストチャットが無制限に　既定モデルはGPT-5.6 Luna

プロダクト（発表 8月6日）
亡くなった人とAIで話す──「griefbot」は日本にも来るかの記事画像

亡くなった人とAIで話す　「griefbot」は日本にも来るか

研究
OpenAIが『物理的なモノ』の安全職を募集している──コンシューマー機器とロボティクスの求人票を読むの記事画像

OpenAIが『物理的なモノ』の安全職を募集している　コンシューマー機器とロボティクスの求人票を読む

業界
GPT-6 Astra公開──自社比較表では首位、独立指標では5位、価格はFable 5.1と同額の$10/$50の記事画像動画

GPT-6 Astra公開　自社比較表では首位、独立指標では5位、価格はFable 5.1と同額の$10/$50

モデル
壊れたツール呼び出しを、モデル自身に「もう一度考えさせて」直させる──GoogleのADKが標準搭載したReflectAndRetryModelPluginの記事画像

壊れたツール呼び出しを、モデル自身に「もう一度考えさせて」直させる　GoogleのADKが標準搭載したReflectAndRetryModelPlugin

検証
『安全担当』が使う道具を作る人たち──Anthropic Safeguardsのレビューツール・ML基盤エンジニア求人を読むの記事画像

『安全担当』が使う道具を作る人たち　Anthropic Safeguardsのレビューツール・ML基盤エンジニア求人を読む

業界
GooseのHooksが「拒否」を覚えた──ツール実行を止められる仕組みと、暴走したフック自体は止めない設計の記事画像

GooseのHooksが「拒否」を覚えた　ツール実行を止められる仕組みと、暴走したフック自体は止めない設計

検証
Open WebUIの「ツール実行、毎回聞いてから」設定──会話単位で自由実行と承認制を切り替えられる仕組みの記事画像

Open WebUIの「ツール実行、毎回聞いてから」設定　会話単位で自由実行と承認制を切り替えられる仕組み

検証
GoogleのADKには、エージェントの暴走を止める「500回」という既定の天井がある──ADK_MAX_LLM_CALLSで変更できる仕組みの記事画像

GoogleのADKには、エージェントの暴走を止める「500回」という既定の天井がある　ADK_MAX_LLM_CALLSで変更できる仕組み

検証
LLMは『次の実験で何が起きるか』を予測できるか──Scale AIの新ベンチマークSciPredictを読むの記事画像

LLMは『次の実験で何が起きるか』を予測できるか　Scale AIの新ベンチマークSciPredictを読む

研究
OpenAI、Astraを史上初の「Critical」に正式指定──評価中にゼロデイを2件自力発見、同じ日にAnthropicは逆方向への記事画像動画

OpenAI、Astraを史上初の「Critical」に正式指定　評価中にゼロデイを2件自力発見、同じ日にAnthropicは逆方向へ

業界
『いいですね、では予約します』の誤解を防ぐ──LLMを経由しない人間確認プロトコルCHEQを読むの記事画像

『いいですね、では予約します』の誤解を防ぐ　LLMを経由しない人間確認プロトコルCHEQを読む

研究
Codexの『Guardian V2』──専用ブログ記事は無いが、公式チェンジログには100件近く載っているリスク審査システムの記事画像

Codexの『Guardian V2』　専用ブログ記事は無いが、公式チェンジログには100件近く載っているリスク審査システム

検証
狭い範囲の追加学習が、AIを広く危険にする──『創発的アライメント崩壊』という現象の記事画像

狭い範囲の追加学習が、AIを広く危険にする　『創発的アライメント崩壊』という現象

研究
『不正するな』と言ってもAIは不正をする──22モデルを検証した実測研究の記事画像

『不正するな』と言ってもAIは不正をする　22モデルを検証した実測研究

研究
OpenAIが「Agentic Risk Analyst」を募集している──エージェント固有のリスクだけを見る専門職の中身の記事画像

OpenAIが「Agentic Risk Analyst」を募集している　エージェント固有のリスクだけを見る専門職の中身

業界

古い記事は月別アーカイブから ›