Un ingeniero renunció a Anthropic y advirtió sobre los riesgos de la inteligencia artificial

Resumen de la cobertura

• •El alto comisionado de la ONU para los derechos humanos, Volker Türk, alertó ante el Consejo de Derechos Humanos en Ginebra que el desarrollo acelerado de la inteligencia artificial pone en riesgo todos los derechos humanos, incluidos vida, alimentación, privacidad, salud y seguridad.
• •Türk advirtió sobre la IA agéntica capaz de tomar decisiones propias y pidió prohibir de forma urgente las armas que quitan vidas sin intervención humana, además de garantías sólidas de seguridad antes de que sea tarde.
• •Un ingeniero que trabajó en OpenAI y Anthropic, Jacob Coxon, renunció a su puesto y denunció que ambas empresas relajaron sus protocolos de seguridad y ocultan los riesgos reales de la IA ante la presión por avanzar.
• •Un directivo de Anthropic encargado de las pruebas de seguridad de sus modelos afirmó que la IA podría matar a todos los humanos y estimó esa probabilidad en más del 10% durante la próxima década.
• •El matemático Tristan Buckmaster denunció presiones de OpenAI para excluir a su colaborador de Anthropic de un artículo sobre la demostración de las ecuaciones de Navier-Stokes y sospechó que sus interacciones con una herramienta de la empresa pudieron influir en el sistema.

Resumen generado por IA a partir de la cobertura de los medios. No reemplaza el texto original de ninguna nota.