¿La Inteligencia Artificial representa riesgo existencial para la humanidad?
La mayoría de los escenarios parten del mismo punto: un día las máquinas superarán las capacidades humanas
Los copépodos antárticos se analizan con microscopios durante un estudio sobre IA
Imagen: AFP
Las alarmas han surgido por todas partes: la inteligencia artificial (IA) representa un riesgo existencial para la humanidad y debe ser controlada antes de que sea demasiado tarde.
Pero, ¿cuáles son estos escenarios apocalípticos y cómo se supone que las máquinas acabarán con la humanidad?
Riesgo
La mayoría de los escenarios parten del mismo punto: un día las máquinas superarán las capacidades humanas, escaparán a todo control y se negarán a ser apagadas.
«Una vez que tengamos máquinas que tengan como objetivo la autopreservación, tendremos un buen problema», dijo el académico especialista en IA Yoshua Bengio durante una conferencia este mes.
Pero debido a que estas máquinas aún no existen, imaginar cómo podrían condenar a la humanidad es tarea a menudo de la filosofía y la ciencia ficción.
El filósofo sueco Nick Bostrom ha mencionado una «explosión de inteligencia», que ocurrirá cuando las máquinas superinteligentes comiencen a diseñar a su vez otras máquinas.
Las ideas de Bostrom han sido descartadas por muchos como ciencia ficción, sobre todo porque una vez argumentó que la humanidad es una simulación por computadora y apoyó teorías cercanas a la eugenesia.
También se disculpó recientemente después de que se descubriera un mensaje racista que envió en la década de 1990.
Sin embargo, sus pensamientos sobre la IA han tenido una gran influencia, inspirando tanto a Elon Musk como al profesor Stephen Hawking.
Lea también: El 73% de los internautas confía en los contenidos realizados con IA
Terminator
Si las máquinas superinteligentes van a destruir a la humanidad, seguramente necesitarán una forma física.
El cyborg de ojos rojos interpretado por Arnold Schwarzenegger en «Terminator» ha demostrado ser una imagen impactante.
Pero los expertos han descartado la idea. «Es poco probable que este concepto de ciencia ficción se convierta en realidad en las próximas décadas, si es que alguna vez lo logra», escribió un grupo activista en contra de los robots bélicos, Stop Killer Robots, en un informe de 2021.
Sin embargo, el grupo ha advertido que dar a las máquinas el poder de tomar decisiones sobre la vida o la muerte es un riesgo existencial.
La experta en robótica Kerstin Dautenhahn, de la Universidad de Waterloo en Canadá, restó importancia a esos temores.
Es poco probable, le dijo a AFP, que la IA le dé a las máquinas mayores capacidades de razonamiento o les insufle el deseo de matar a todos los humanos.
«Los robots no son malos», dijo, aunque admitió que los programadores pueden hacer que hagan cosas malas.
Sustancias químicas más letales
Un escenario menos fantasioso es el de unos «villanos» que utilizan la IA para crear nuevos virus y propagarlos.
Los potentes modelos de lenguaje como GPT-3, utilizado para crear ChatGPT, son extremadamente buenos para inventar nuevos agentes químicos horribles.
Un grupo de científicos que usaba IA para ayudar a descubrir nuevos medicamentos realizó un experimento. Ajustaron su IA para que inventara moléculas dañinas.
Consiguieron generar 40.000 agentes potencialmente venenosos en menos de seis horas, según informa la revista Nature Machine Intelligence.
La experta en inteligencia artificial Joanna Bryson, de la Hertie School, en Berlín, explicó que es perfectamente factible que alguien descubra una forma de propagar un veneno como el ántrax más rápidamente.
«Pero no es una amenaza existencial. Es solo un arma horrible, espantosa».
(27/06/2023)
