Anthropic bloqueó intentos de usar su IA para investigaciones sobre armas biológicas

Resumen de la cobertura

• •Anthropic informó que detectó y bloqueó durante este año usos indebidos de sus modelos de inteligencia artificial que podrían haber contribuido al desarrollo de armas biológicas.
• •La empresa no pudo determinar si esos estudios tenían fines legítimos o maliciosos, por lo que optó por bloquearlos ante el riesgo de contribuir al desarrollo de patógenos peligrosos.
• •Anthropic no reveló la identidad de los responsables, que operaban desde países donde la empresa no presta servicios, e incluyó casos detectados en China, Rusia y Yemen.
• •La compañía aseguró haber desarrollado sistemas de detección para identificar y bloquear usos riesgosos de sus modelos, incluido el chatbot Claude.
• •El informe se da en un contexto de preocupación por el uso dual de la IA, que puede servir tanto para investigaciones biológicas como para actividades peligrosas.

Resumen generado por IA a partir de la cobertura de los medios. No reemplaza el texto original de ninguna nota.