Yoshua Bengio, uno de los principales pioneros de la inteligencia artificial (IA) y galardonado con el Premio Turing en 2018, advirtió sobre los riesgos asociados al desarrollo de agentes de IA demasiado poderosos durante su intervención en el Foro Económico Mundial, en Davos.
En su discurso, destacó que estos sistemas autónomos podrían representar una amenaza significativa si no se diseñan y controlan adecuadamente, especialmente en el contexto de la inteligencia general artificial (AGI), que posee capacidades cognitivas similares a las humanas. Bengio mencionó escenarios alarmantes como los sistemas de armas autónomas que podrían actuar sin intervención humana y la manipulación masiva de información a través de desinformación y propaganda, lo que podría socavar valores democráticos fundamentales.
Bengio enfatizó que la creación de agentes autónomos es impulsada por la competencia entre empresas y países, lo que aumenta el riesgo de que sus objetivos no estén alineados con los valores humanos. “Debemos reconocer los riesgos y realizar la inversión tecnológica necesaria para garantizar la seguridad antes de que sea demasiado tarde”, afirmó. Además, instó a una colaboración internacional para establecer estándares éticos y de seguridad en el desarrollo de la IA.
