Recientemente, un grupo conformado por más de 1.500 expertos tecnológicos y figuras relevantes de la intelectualidad y de la política ha emitido un comunicado para solicitar la restricción en el desarrollo de sistemas de inteligencia artificial «superinteligente” mientras no se cuente con evidencia concluyente de que esta tecnología ofrecerá un balance de beneficios superior a sus riesgos para la humanidad.
El documento está encabezado por los Premios Nobel Geoffrey Hinton y Yoshua Bengio, considerados promotores de la Inteligencia Artificial moderna y que se oponen por la gran preocupación que muestran porque, sin las salvaguardas adecuadas, el desarrollo de esta capacidad extraordinaria (que superaría a los humanos en casi todas las tareas cognitivas) llegue a ser una gran amenaza para la humanidad, incluso, la «posible extinción de la especie». Por lo que Bengio subraya que «para avanzar con seguridad hacia la superinteligencia, debemos determinar científicamente cómo diseñar sistemas de IA que sean intrínsecamente incapaces de dañar a las personas».
Este colectivo exige que su avance se paralice hasta que exista un consenso científico robusto sobre su control y seguridad y una amplia aceptación social coincidiendo con un contexto de profundo malestar público, al menos, en Estados Unidos, como se refleja en una reciente encuesta que reveló que solo el 5% de los encuestados aprueba un desarrollo acelerado y sin regulación de la IA “sobrehumana”, mientras que el 64% opina que la IA no debería desarrollarse sin garantías de seguridad y que el 73% apoya una regulación estricta.
En contraste con estas inquietudes, el equipo de Open AI dedicado a la investigación de los peligros a largo plazo de la IA ha sido disuelto, lo que pone en tela de juicio la prioridad que las empresas otorgan a la seguridad frente a la aceleración del desarrollo. Y en un momento en que el alcance de la inteligencia artificial en el mundo occidental y las relaciones internacionales es ya omnipresente y está remodelando la economía, el poder militar y la estructura de la gobernanza global.
A este aspecto candente de la agenda mundial hay que añadir que el riesgo de una triple burbuja especulativa -por valoraciones financieras, expectativas de resultados y capacidad tecnológica excesivas- vinculada a las actividades empresariales propias de la IA, es cada día más motivo de preocupación para numerosos analistas y entidades financieras como el Banco de Inglaterra y el Fondo Monetario Internacional (FMI). Los síntomas está ahí: muchas de las empresas startup del sector tienen valoraciones astronómicas que están basadas casi exclusivamente en expectativas de crecimiento futuro; la inversión del Capital Riesgo se ha convertido en el principal motor de apoyo a las tecnologías de la IA; y hay una gran concentración bursátil en las grandes proveedoras de servicios básicos y desarrolladoras de modelos clave en la infraestructura de la IA (las “Siete Magníficas”).
Y es que, desde hace tiempo, los objetivos pecuniarios y de control de los mercados han pasado a ser la norma en Occidente. Las multinacionales occidentales se afanan por competir para conseguir el monopolio de las ofertas que prevalezcan e imponer pagos por uso a la demanda que aseguren beneficios astronómicos a sus propietarios. No obstante, este desmedido afán crematístico desbocado puede suponer su peor talón de Aquiles. Frente a la estrategia de los modelos de IA que está implementando China, basada en el acceso gratuito y el código abierto al control de las y los usuarios, que dispara su utilización, su testado colaborativo y su viabilidad económica, por otro lado, sostenida en gran parte estatalmente. Una alternativa que ocasiona un enorme efecto disruptivo para la viabilidad del modelo occidental escorado al beneficio irrestricto de los grandes mercaderes.
No obstante, frente a estos peligrosos desaguisados y otros más que añadir a nuestro momento presente, la cuestión crucial es ¿cuánta de la otra inteligencia, de la humana, estamos empleando? ¿Cuánto análisis personal, comunitario e institucional estamos aplicando en poner coto a los desmanes y sentido a los objetivos? Porque el desarrollo de la Inteligencia Artificial sin control democrático y sin fines humanitarios amenaza con llevarnos al colapso. Y la renuncia a emplear nuestra inteligencia en evitarlo, lo acelerará.
Xavier Aparici, filósofo y experto en gobernanza y participación
