Presentado el Manifiesto OFF, que suscribe la necesidad de recuperar el control de la tecnología | Tecnología

Mientras los avances en inteligencia artificial han disipado las alarmas sobre sus potencialidades y riesgos, ningún gobierno, experto o empresario ha olvidado alertarlos sobre la urgencia de cuidarse. En los meses posteriores a la era del ChatGPT han proliferado manifestaciones apocalípticas, firmadas por algunos pioneros en el campo de la IA. Desde entonces, algunos han pedido una pausa en su desarrollo, mientras que la Unión Europea acaba de implementar la primera ley del mundo para regularlos. Sin embargo, hay voces que piden un esfuerzo también por parte del alcalde. Cien años de ilustres personalidades, tanto nacionales como internacionales, firman el Manifyto OFF. Este documento plantea la vulnerabilidad de los seres humanos y sus instituciones frente a una tecnología cada vez más avanzada y autónoma, y ​​está a punto de tomar acciones más decisivas y ambiciosas.

El fabricante, que presentó estos miércoles en Madrid, estuvo firmado por personas del mundo de la cultura, la ciencia, la educación, la psicología, el derecho y los medios de comunicación, como el director ejecutivo de PRISA Media, Carlos Núñez; el presidente de CaixaBank, José Ignacio Goirigolzarri; la directora de Tecnología, Medios y Comunicación de la Universidad de Columbia, Anya Schiffrin, o el director general de Atresmedia, Javier Bardají, entre otros. “Esta es una iniciativa independiente que surge de una preocupación real por las tendencias que resaltan la enorme vulnerabilidad del cuerpo humano y de las instituciones que pasan por alto el desarrollo tecnológico mal enfocado”, explicó el empresario y escritor Diego Hidalgo, coordinador de la manifestación. “Pretenden ser un primer paso hacia la movilización de la sociedad civil. Nuestro objetivo es restaurar el control sobre la tecnología digital, con la ayuda de acciones públicas y privadas”.

En esta línea, Hidalgo registró los riesgos para el bienestar mental que habría tenido que dejar un mueble en una época templada. “Afortunadamente, algunos de los temas abordados en el manifiesto ya han tenido cierta presencia en el debate público. Uno de ellos debe ver el profundo deterioro de la salud mental, especialmente de los jóvenes, que el que nos ha tocado hoy. Las curvas descritas como la estrella malvada de los jóvenes están en una altura, una altura absolutamente vertiginosa”, registró. Según un estudio realizado en la plataforma Sapiens Lab, el hecho de que un niño tenga 12 años teléfonos inteligentes la probabilidad de sufrir depresión en la edad adulta aumenta un 20%, respecto a acceder a ella con 18 años, mientras que el 74% de quienes la padecen a partir de los seis años padecen síntomas depresivos. En España, el 88% de los jóvenes tiene un teléfono inteligente hasta los 13 años.

Ana Caballero, presidenta y vicepresidenta de la Asociación Europea para la Transición Digital, expresó durante la presentación sus dudas sobre la comercialización de datos. “Estamos por delante de tecnologías que no son neutrales. Pero sobre todo, estas empresas que comercian con nuestros datos son extracomunitarias, y llegamos a los europeos como una gran base de datos con poder adquisitivo. Lamentablemente muchas veces no somos conscientes de que pagar con datos es pagar”, explicó.

Además de centrarse en cuestiones relacionadas con grandes innovaciones como la inteligencia artificial, la fabricación establece una serie de medidas urgentes para garantizar que la tecnología sirva a la humanidad, y no al revés. En este sentido, los firmantes han comenzado en primera instancia a crear leyes y regulaciones que limiten el uso indebido de la tecnología, especialmente en materia de vigilancia, privacidad y monopolios.

Entre las preocupaciones encontramos la posibilidad de que los Estados controlen excesivamente, y de forma generalizada, a los ciudadanos, mediante el reconocimiento facial u otras tecnologías que no garantizan el anonimato en los espacios públicos. En Estados Unidos, por ejemplo, la tecnología biométrica es ampliamente utilizada en los aeropuertos, tanto por las aerolíneas como por las agencias gubernamentales responsables de la seguridad de la aviación. “La videovigilancia con tecnología de reconocimiento facial abre una caja de Pandora que mejora nuestra privacidad y anonimato en el espacio público. Supone un salto diferencial hacia la vigilancia sistemática de nuestros movimientos y el control de nuestras vidas”, cita el manifiesto, que recuerda que Amnistía Internacional ha lanzado un llamamiento para prohibir el uso de sistemas de reconocimiento facial por considerarlo una forma de vigilancia masiva.

José María Lassalle, exsecretario de Estado de Agenda Digitale y director del Centro de Humanismo Tecnológico de ESADE, insistió en las implicaciones que la IA puede tener en las guerras. “La inteligencia artificial es algo que se trata de ser alguien, pero sin conciencia. Sí, esto está alterando los ojos de la capacidad humana para entender esta tecnología, y se visualiza de manera muy clara en el contexto de las armas letales”, afirmó durante la presentación. «Su aplicación en la guerra, que es una experiencia humana desafortunada que nos ha acompañado desde nuestros orígenes como especie, puede ser perjudicial».

Asimismo, la industria manufacturera propone la implementación de una medida regulatoria que sea jurídicamente vinculante, con el objetivo de defender a los ciudadanos de los abusos de las empresas privadas y, en algunos casos, de los gobiernos de estados autoritarios, que pueden ejercer presión. Esto incluye la prohibición de la publicidad microfocalizada, la protección de los neurodirectos a nivel constitucional, la legislación internacional contra las armas letales autónomas y el “derecho a la desconexión”, que garantiza el acceso a servicios públicos especiales de forma no digital.

Elena Herrero-Beaumont, cofundadora de la consultora Ethosfera, se centró especialmente en el acceso a los datos y la ética del diseño de algoritmos, sugiriendo regulaciones para garantizar su integridad. “Ahora es imposible que las empresas periódicas que tradicionalmente han procesado información compitan con las grandes plataformas tecnológicas”, afirmó Herrero-Beaumont, quien recomendó prevenir la publicidad microfocalizada como crítica crítica para evitar esta deriva.

Los firmamentos también recomendaron la adopción de iniciativas educativas para mejorar la alfabetización digital de la población, promoviendo una comprensión más profunda de los impactos y limitaciones de la tecnología, así como el desarrollo de habilidades críticas para gestionar la influencia tecnológica en la sociedad.

Puedes seguir en EL PAÍS Tecnología es Facebook Sí X o escribe aquí para recibirnos boletín periódico.