Los proyectos de IA «serán pronto sistemas sobrehumanos
Un ingeniero británico de Anthropic, que también ha trabajado en los pasados tres años para OpenAI -la creadora del popular ChatGPT– ha presentado su dimisión en las últimas horas porque dice que ambas compañías «no están actuando con responsabilidad» y están «jugando con nuestras vidas».
Jacob Coxon, ingeniero de software al que los medios identifican como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin responsabilidades ejecutivas, aseguró en un hilo de su cuenta de X que las personas que están tras el desarrollo exponencial de la IA «creen que podrá matarnos a todos al final de esta década», porque «no hay otra actividad humana que suponga este nivel de amenaza».
Para el ingeniero, de 27 años, se está subestimando el poder de la tecnología, pero los proyectos de IA «serán pronto sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos».
En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros «tal vez no han internalizado en profundidad los retos civilizacionales», mientras que los segundos los comprenden bien, pero «están atrapados en la carrera por llegar primero», aun cuando en el caso más optimista se trate de llegar primero «para actuar con responsabilidad».
En esta línea, Evan Hubinger, investigador de Anthropic, replicó los comentarios a Coxon en X y matizó el discurso del ingeniero: «Jacob tiene razón aquí; realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10% dentro de la próxima década».
Pese a ello, Hubinger consideró que el riesgo de los modelos actuales es bajo, aunque lo preocupante es «la superinteligencia que surge del automejoramiento recursivo (…) que está ocurriendo más rápido de lo pensábamos».
Coxon no ha sido el único investigador que se ha retirado del desarrollo de los modelos de IA en los últimos años tras advertir de los peligros de este desarrollo tecnológico.
En esta línea, Evan Hubinger, investigador de Anthropic, replicó los comentarios a Coxon en X y matizó el discurso del ingeniero: «Jacob tiene razón aquí; realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10% dentro de la próxima década».
Pese a ello, Hubinger consideró que el riesgo de los modelos actuales es bajo, aunque lo preocupante es «la superinteligencia que surge del automejoramiento recursivo (…) que está ocurriendo más rápido de lo pensábamos».
Coxon no ha sido el único investigador que se ha retirado del desarrollo de los modelos de IA en los últimos años tras advertir de los peligros de este desarrollo tecnológico.
