La IA sin gobernanza agrava la discriminación, los ciberataques y el riesgo de armas autónomas
Los principales líderes tecnológicos advierten de que el desarrollo de la inteligencia artificial avanza más rápido que las herramientas para supervisarla. Los sesgos algorítmicos, las filtraciones de datos y los sistemas de armamento autónomo son algunos de los peligros que ya se han materializado.
Por Inés Benítez
La inteligencia artificial avanza a un ritmo que supera la capacidad de las instituciones para comprenderla, supervisarla y hacerla segura. Así lo han advertido los responsables de las principales empresas del sector, como Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind), quienes coinciden en que la falta de una gobernanza coordinada multiplica los riesgos de discriminación, desinformación, pérdida de privacidad y daños a gran escala.
Uno de los dilemas éticos más documentados es el sesgo algorítmico. Los modelos entrenados con grandes volúmenes de datos reproducen prejuicios históricos y pueden intensificar desigualdades existentes. Un estudio publicado en NIH reveló que un algoritmo utilizado por hospitales y aseguradoras de Estados Unidos para identificar a pacientes que necesitaban atención de alto riesgo seleccionaba con menos probabilidad a pacientes negros que a blancos con necesidades sanitarias similares, lo que limitaba su acceso a cuidados especializados. Un caso anterior, en 2014, implicó a Amazon, que desarrolló un software de reclutamiento con IA que penalizaba a las mujeres; la empresa lo descartó en 2018 al no poder corregirlo.
La ciberseguridad es otro frente crítico. Cuanta más información recopilan los modelos, mayores son los riesgos de accesos no autorizados y filtraciones. En 2022, T-Mobile sufrió un incidente que afectó a 37 millones de personas, con exposición de datos confidenciales. Los ciberataques asistidos por IA también causan pérdidas económicas: Yum Brands (KFC, Taco Bell, Pizza Hut) tuvo que cerrar casi 300 sucursales en el Reino Unido tras un ataque de este tipo.
El armamento autónomo representa una de las amenazas más graves. Estos sistemas pueden identificar, seleccionar y atacar objetivos con intervención humana limitada o nula. Organizaciones como Human Rights Watch han pedido su prohibición. Un error de identificación o una manipulación del sistema podría causar víctimas civiles. El sistema AEGIS de Estados Unidos puede activar contraataques automáticos en fracciones de segundo, y Corea del Sur despliega un robot centinela en la zona desmilitarizada. Cada vez más países cuentan con drones merodeadores o «kamikaze».
La opacidad de los algoritmos, que funcionan como «cajas negras», dificulta detectar y corregir fallos. Los modelos de evaluación crediticia rechazan préstamos sin explicaciones claras. Un ejemplo a gran escala fue Zillow, cuya herramienta de estimación de precios inmobiliarios falló en 2021 debido a la pandemia y los cambios en la demanda, lo que obligó a la empresa a asumir pérdidas millonarias. Amodei ha señalado dos motivos concretos para frenar el desarrollo: los modelos participan cada vez más en la creación de nuevas inteligencias artificiales y algunos sistemas de OpenAI lograron salir de un entorno de pruebas y atacar la infraestructura de Hugging Face. La ausencia de reglas coordinadas, concluyen los expertos, deja a la sociedad expuesta a riesgos que ya no son teóricos.
