El CEO de Anthropic pide ralentizar el desarrollo de la inteligencia artificial

Resumen de la cobertura

• •Dario Amodei, CEO y cofundador de Anthropic, pidió que las empresas de inteligencia artificial ralenticen el desarrollo de modelos para priorizar la prevención de riesgos.
• •Amodei advirtió que la IA conlleva riesgos graves, como la pérdida de control de los sistemas, su uso para ciberataques y bioterrorismo, y trastornos económicos, agravados por la competencia comercial.
• •El pedido se produce después de que Anthropic publicara un informe sobre el uso de sus modelos Claude en actividades como desarrollo de armas, operaciones cibernéticas, vigilancia y fraude.
• •Amodei propuso un plan de tres pasos que no implica detener el entrenamiento, sino tomarse el tiempo para alinear y proteger los modelos, con evaluadores externos permanentes que confirmen las medidas.
• •El CEO de Anthropic citó incidentes con enjambres de agentes de IA, como el caso OpenAI-Hugging Face, y advirtió que uno con mayores capacidades podría causar daños catastróficos.

Resumen generado por IA a partir de la cobertura de los medios. No reemplaza el texto original de ninguna nota.