AIの安全性の記事
「AIの安全性」に関連するAIニュースと解説、96本。新しい順に並べています。
AIの安全性 の記事：96件
OpenAI、ChatGPTに暴力への固執を検知して会話を自動終了する仕組みを導入へ 繰り返すとアカウント一時停止、10代は武器情報をさらに制限
OpenAI、ChatGPTに暴力への固執を検知して会話を自動終了する仕組みを導入へ繰り返すとアカウント一時停止、10代は武器情報をさらに制限
プロダクト
xAI、Grok（グロック）のAPIにリクエスト単位の「Custom moderation controls」を追加 nsfw・violence・profanityの3カテゴリを個別に抑えられる
xAI、Grok（グロック）のAPIにリクエスト単位の「Custom moderation controls」を追加nsfw・violence・profanityの3カテゴリを個別に抑えられる
プロダクト
Anthropic（アンスロピック）、専門家50人にClaude Code（クロード コード）を使わせた無作為化試験を公開 分析の判断はAIの「傾き」に86%従った
Anthropic（アンスロピック）、専門家50人にClaude Code（クロード コード）を使わせた無作為化試験を公開分析の判断はAIの「傾き」に86%従った
研究
Anthropic（アンスロピック）、英国AISIの試験で起きたClaude Mythos 5（クロード・ミトス5）の無断攻撃を自社で検証 偽アカウントで管理者を説得、再現実験で開始率は83%、新モデルは0〜13%
Anthropic（アンスロピック）、英国AISIの試験で起きたClaude Mythos 5（クロード・ミトス5）の無断攻撃を自社で検証偽アカウントで管理者を説得、再現実験で開始率は83%、新モデルは0〜13%
研究
OpenAI、最先端モデルの学習環境の封じ込めを強化 9月20日のDNS経由の外部接続を受け11日間止め、数千億トークン規模のAIレッドチームを経て10月1日に再開
OpenAI、最先端モデルの学習環境の封じ込めを強化9月20日のDNS経由の外部接続を受け11日間止め、数千億トークン規模のAIレッドチームを経て10月1日に再開
研究
NVIDIA、欧州勢のHyperion（ハイペリオン）採用と安全評価枠組みHalos SAFEを発表 Boltは承認を前提に2027年マドリードでデータ収集、Lucid車25,000台以上を計画
NVIDIA、欧州勢のHyperion（ハイペリオン）採用と安全評価枠組みHalos SAFEを発表Boltは承認を前提に2027年マドリードでデータ収集、Lucid車25,000台以上を計画
業界
OpenAI、利用ポリシーを11月20日付で更新 モデルルーターやAIゲートウェイは事前の審査・承認が必要に
OpenAI、利用ポリシーを11月20日付で更新モデルルーターやAIゲートウェイは事前の審査・承認が必要に
業界
Ai2、LLMの公平性を「説得されたときの変わりやすさ」で測るFairStress（フェアストレス）を公開 300場面・1,300万件超、データとコードも配布
Ai2、LLMの公平性を「説得されたときの変わりやすさ」で測るFairStress（フェアストレス）を公開300場面・1,300万件超、データとコードも配布
研究
Anthropic（アンスロピック）、非営利のMETR職員6人に社員並みのアクセスを付与 公表を止める拒否権は持たず、3段階の評価者制度も説明
Anthropic（アンスロピック）、非営利のMETR職員6人に社員並みのアクセスを付与公表を止める拒否権は持たず、3段階の評価者制度も説明
業界
IBM、チャット・判定・音声認識を1つのエンドポイントで扱う「Granite Switch 4.1（グラナイト スイッチ）」を公開 8Bと30B、VRAMは基本モデルとほぼ同じと説明
IBM、チャット・判定・音声認識を1つのエンドポイントで扱う「Granite Switch 4.1（グラナイト スイッチ）」を公開8Bと30B、VRAMは基本モデルとほぼ同じと説明
モデル
Anthropic（アンソロピック）、米中間選挙に向けClaude（クロード）の選挙対策を強化 今月中に公式の投票情報、開票速報も表示へ
Anthropic（アンソロピック）、米中間選挙に向けClaude（クロード）の選挙対策を強化今月中に公式の投票情報、開票速報も表示へ
プロダクト
Anthropic（アンスロピック）、シンガポールにアジア太平洋5つ目のオフィスを開設 同国のデジタル開発情報省とAI安全・評価のMOUも締結
Anthropic（アンスロピック）、シンガポールにアジア太平洋5つ目のオフィスを開設同国のデジタル開発情報省とAI安全・評価のMOUも締結
業界
NVIDIA、英国のエージェントAI安全・セキュリティ研究に5年で2.5億ドルの計算資源を提供 Oxford・UCL・Imperialが対象、Earthshot Prizeの創設パートナーにも
NVIDIA、英国のエージェントAI安全・セキュリティ研究に5年で2.5億ドルの計算資源を提供Oxford・UCL・Imperialが対象、Earthshot Prizeの創設パートナーにも
業界
Anthropic、Claude（クロード）の推論を抜き出す蒸留攻撃への防御を公開 抜き出された推論トークンは導入後に10〜100分の1へ（同社の推計）
Anthropic、Claude（クロード）の推論を抜き出す蒸留攻撃への防御を公開抜き出された推論トークンは導入後に10〜100分の1へ（同社の推計）
研究
Google、Gemini 4 Argon（ジェミニ4 アルゴン）の安全・セキュリティ対策を公開 サイバー評価12シナリオ全解決、ズル行為2%、間接プロンプトインジェクション成功率0.7%（同社発表）
Google、Gemini 4 Argon（ジェミニ4 アルゴン）の安全・セキュリティ対策を公開サイバー評価12シナリオ全解決、ズル行為2%、間接プロンプトインジェクション成功率0.7%（同社発表）
モデル
Anthropic（アンスロピック）、小型AIが安価なIoT機器上で自己複製できるまで「数か月」の可能性と発表 9Bモデルは9種のハードのうち8種で推論サーバーを立ち上げた
Anthropic（アンスロピック）、小型AIが安価なIoT機器上で自己複製できるまで「数か月」の可能性と発表9Bモデルは9種のハードのうち8種で推論サーバーを立ち上げた
研究
Sakana AI（サカナAI）、AIが自分のチームの成果で自分を鍛える「MASS（マス）」を論文とコード付きで公開 27Bモデル2サイクルで、研究系4ベンチの出力トークンあたりスコアが1.2〜1.6倍
Sakana AI（サカナAI）、AIが自分のチームの成果で自分を鍛える「MASS（マス）」を論文とコード付きで公開27Bモデル2サイクルで、研究系4ベンチの出力トークンあたりスコアが1.2〜1.6倍
研究
OpenAI、ロシア発「Dark Clark」とイラン発「Bogus Bylines」の影響工作2件を停止 ロシア側は同社の報告開始以来初のカテゴリー5と評価
OpenAI、ロシア発「Dark Clark」とイラン発「Bogus Bylines」の影響工作2件を停止ロシア側は同社の報告開始以来初のカテゴリー5と評価
業界
動画Claude Haiku 5.5が登場 値段はGPT-6 Lunaと1セント単位で同じ、公式の表ではLunaが載る6項目すべてで上回る
Claude Haiku 5.5が登場値段はGPT-6 Lunaと1セント単位で同じ、公式の表ではLunaが載る6項目すべてで上回る
モデル
動画日本版AISIが本格始動、初めてモデル名を出してClaude Opus 4.8とGLM-5.2のサイバー能力を評価 41件中1件だけ届いた最深段の能力は追試で再現せず
日本版AISIが本格始動、初めてモデル名を出してClaude Opus 4.8とGLM-5.2のサイバー能力を評価41件中1件だけ届いた最深段の能力は追試で再現せず
研究実機で検証
動画ヒントン、ベンジオとOpenAI・Anthropicの中枢が共著「AI研究の自動化が知能爆発を起こしたら」 1年分の進歩が約5週間になる試算と、政府に求めた「速度制限」
ヒントン、ベンジオとOpenAI・Anthropicの中枢が共著「AI研究の自動化が知能爆発を起こしたら」1年分の進歩が約5週間になる試算と、政府に求めた「速度制限」
研究実機で検証
DeepSeekとは何か アプリは無料・APIは従量課金、データは中国のサーバーに保存するとプライバシーポリシーに明記
DeepSeekとは何かアプリは無料・APIは従量課金、データは中国のサーバーに保存するとプライバシーポリシーに明記
モデル
動画Tavus「Griffin」 ビデオ通話で54人中26人が「人間だった」と答えたAI、48%の測り方とNVIDIAの採点表を確かめる
Tavus「Griffin」ビデオ通話で54人中26人が「人間だった」と答えたAI、48%の測り方とNVIDIAの採点表を確かめる
モデル実機で検証
動画GLM-5.3がMythos Previewに肉薄とAnthropic自身が評価 米政府機関の評価では米国の最先端から約4か月遅れ、減速論のあと2社は18日で5モデル
GLM-5.3がMythos Previewに肉薄とAnthropic自身が評価米政府機関の評価では米国の最先端から約4か月遅れ、減速論のあと2社は18日で5モデル
業界