Investigador de Anthropic advierte que "la inteligencia artificial podría matarnos a todos"

“Ninguna de las dos empresas actúa con responsabilidad”, escribió “Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, afirmó en X.

La advertencia sobre el avance de la Inteligencia Artificial

En su publicación, Coxon señaló que existe una tendencia a subestimar el poder de esta tecnología. Para explicar su preocupación, sostuvo que en un futuro cercano podrían existir sistemas capaces de realizar tareas muy por encima de las capacidades humanas actuales.

“Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, escribió.

El investigador también cuestionó la percepción pública sobre los riesgos asociados con la inteligencia artificial. Según explicó, las personas que trabajan en el desarrollo de estos sistemas conocen la posibilidad de consecuencias graves, aunque no siempre expresen públicamente sus temores.

“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, aseguró Coxon y comentó que muchos ejecutivos e investigadores incluso “expresan miedo en privado”.

“Ninguna otra actividad humana representa este nivel de peligro”, remarcó.

Críticas a las empresas de IA

Coxon también se refirió a una de las principales discusiones dentro del sector: por qué las compañías continúan desarrollando sistemas cada vez más avanzados si sus propios investigadores consideran que pueden existir riesgos importantes.

En ese sentido, advirtió que el desarrollo de estos sistemas avanza a un ritmo que no se está desacelerando y sostuvo que parte del problema está relacionado con la competencia.

“Creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, explicó.

Su propuesta para el futuro

A pesar de sus críticas, Coxon dijo mantener una mirada optimista sobre la posibilidad de alcanzar acuerdos entre los creadores de IA. Como ejemplo, mencionó episodios de seguridad informática como el ataque contra Hugging Face, que, según consideró, contribuyeron a que las conversaciones y acuerdos entre empresas estadounidenses sean más viables.

Sin embargo, advirtió: “No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos”.

Finalmente, dirigió parte de su mensaje a otros investigadores del sector y los instó a reflexionar sobre cómo se sentirán realmente los próximos años. “¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente?”, preguntó, antes de plantear si los investigadores deberían simplemente aceptar la situación actual o aprovechar el momento para exigir condiciones diferentes.