OpenAIがAIバイオセキュリティ保護を強化し、7月にグローバルバイオセキュリティサミットを開催

OpenAIは、生物学分野におけるAIモデルの改善に伴い、セキュリティ保護を強化し、7月にバイオセーフティサミットを開催するなど、世界の専門家と協力していると発表しました。 OpenAIは、ロスアラモス国立研究所をはじめとする米国の他の機関と提携し、生物学研究所におけるAIの応用とリスクを評価しています。 同社は、危険なリクエストのモデル拒否、リアルタイム検出システム、手動レビュー、レッドチーム攻撃および防御テストなど、複数のセキュリティ対策を開始し、リスクの高いモデルに対してはより厳格なリリース制御を採用しています。 OpenAIは、将来的には、政府、科学研究機関、企業と協力してバイオセキュリティ防御を改善し、AIがライフサイエンスを強化し、潜在的な生物学的脅威を効果的に防ぐことを確保すると述べました。