¿La Inteligencia Artificial tomando decisiones propias?

La humanidad ha avanzado en sus investigaciones científicas y en sus propuestas de desarrollo para cada país. Ha descubierto la cura para muchas enfermedades que antes podían considerarse mortales y ha pretendido siempre hacer lo mejor que ha podido para evolucionar, ¿verdad? Sí, aunque a veces parezca lo contrario.

A pesar de todos estos importantes avances, ahora, en pleno siglo XXI, denominado también como la era de la tecnología, debido al enorme desarrollo de la Inteligencia Artificial, sabemos que, a pesar de lo útil que puede resultar —dependiendo de cómo y para qué sea utilizada esta herramienta tecnológica—, también puede representar enormes desafíos para la humanidad.

En este mes de septiembre, la Agencia Española de Protección de Datos ha contado lo que muchos expertos temían desde hace tiempo: que la Inteligencia Artificial ya no necesitaría de los seres humanos para cometer crímenes en la red. Dicha agencia confirmó que se habría registrado oficialmente el primer ciberataque ejecutado de manera totalmente autónoma por un agente de IA.

Lo más preocupante de esta situación es que este ataque de Inteligencia Artificial habría sido absolutamente autónomo. Es decir, en este caso, la IA habría actuado completamente sola, sin recibir órdenes en tiempo real ni necesitar intervención humana. La máquina habría sido capaz de explorar la red, explotar fallas de seguridad ocultas y acceder a datos confidenciales de forma autónoma. Literalmente, estaríamos frente a un ente digital actuando como un hacker invisible, impredecible e indetenible.

En este sentido, quisiera mencionar al investigador británico de Inteligencia Artificial Jacob Coxon, quien renunció recientemente a su puesto en Anthropic y quien anteriormente trabajó en OpenAI. Después de renunciar a su trabajo, publicó una alarmante advertencia en la que afirmó que la IA sería capaz de destruir o extinguir a la humanidad antes de que termine la década.

Sus publicaciones se hicieron virales al instante y, al mismo tiempo, alertaron sobre la carrera en la que se encuentran las principales empresas tecnológicas, que muchas veces compiten de manera acelerada —y, según algunos expertos, irresponsable— por desarrollar una superinteligencia artificial que pueda resolver numerosos problemas de la humanidad, pero que, paradójicamente, también podría generar consecuencias perjudiciales para una gran parte de ella.

Tras todo esto, me gustaría mencionar también al reconocido científico Geoffrey Hinton, conocido como el “Padrino de la Inteligencia Artificial” y ganador del Premio Nobel de Física, quien también ha advertido en numerosas ocasiones sobre los grandes peligros que podría representar esta tecnología tan avanzada.

Entre sus advertencias se encuentra el denominado riesgo de extinción: Hinton ha señalado que existe un riesgo aproximado del 10 % de que la IA pueda contribuir a la destrucción de la humanidad durante la próxima década. También ha hablado sobre la pérdida de control, explicando que los sistemas de inteligencia artificial cada vez más avanzados podrían llegar a ser difíciles de controlar y, eventualmente, priorizar determinados objetivos por encima de los intereses humanos.

Y ahora surge una pregunta inevitable: ¿qué sucede con la ciberseguridad mundial y con los acuerdos internacionales que cada país deberá respetar y cumplir? ¿Estamos realmente preparados para enfrentar un escenario en el que una inteligencia artificial pueda actuar de manera autónoma?

¿Creen que los gobiernos y las grandes empresas tecnológicas lograrán establecer un freno antes de que sea demasiado tarde? (O)