Bill Gates advierte que las barreras de seguridad de la IA se están quedando atrás

Bill Gates, el exdirector ejecutivo de Microsoft y ahora un importante filántropo, ha publicado una nueva advertencia sobre la inteligencia artificial: según él, la sociedad ya ha pasado varios puntos de peligro que deberían haber provocado una acción pública más fuerte. La advertencia importa porque Gates no sostiene que la IA sea inútil o solo dañina. Dice que podría transformar la agricultura, la atención médica, la educación y el papeleo rutinario del gobierno. El argumento trata sobre el momento, el poder y el riesgo: ¿cuánta alteración debería aceptar la sociedad mientras busca esas ganancias?

Según un reportaje de MIT Technology Review, Gates dice que su alarma ha crecido porque los sistemas de IA están mejorando más rápido que las reglas y prácticas de seguridad destinadas a limitar el daño. Esas prácticas de seguridad a menudo se llaman barreras de seguridad, es decir, pruebas, límites, monitoreo y reglas diseñados para evitar que una tecnología se use mal o actúe de manera impredecible. Gates se concentra especialmente en los modelos de frontera, los sistemas de IA más avanzados que actualmente construyen y lanzan los principales laboratorios.

Su lista de preocupaciones es amplia. Señala las capacidades biológicas, es decir, la capacidad de la IA para ayudar con tareas de biología como crear o analizar moléculas; las capacidades cibernéticas, es decir, ayuda con ataques digitales o debilidades en sistemas informáticos; las capacidades psicosociales, es decir, el poder de influir en las emociones, creencias o comportamiento de las personas; la alteración del mercado laboral; y la posibilidad de que los seres humanos no controlen por completo lo que hacen los sistemas complejos. Gates sostiene que estas no son preocupaciones lejanas de ciencia ficción. Le dijo a MIT Technology Review que, con la IA, “esta vez es diferente”.

Una razón por la que esa frase importa es que la historia de la tecnología a menudo se usa como tranquilidad. Muchas personas señalan que inventos anteriores, incluido internet, cambiaron el trabajo sin destruir permanentemente más empleos de los que crearon. Gates dice que esa comparación puede ser engañosa porque la IA puede sustituir el pensamiento humano en muchos tipos de trabajo de oficina y profesional al mismo tiempo. Ese tipo de trabajo a menudo se llama trabajo de cuello blanco: empleos basados más en información, análisis, escritura, administración o comunicación que en trabajo manual.

Esa afirmación es debatida. Si Gates tiene razón, esperar a que el mercado laboral se ajuste por sí solo podría dejar expuestos a muchos trabajadores y jóvenes que buscan empleo. Si está equivocado, las restricciones fuertes podrían retrasar herramientas útiles que podrían ayudar a médicos, maestros, agricultores, científicos y personas que navegan sistemas complicados. Incluso dentro de la industria tecnológica, Gates dice que la conversación es difícil porque las empresas no tienen incentivos fuertes para criticarse a sí mismas o a sus competidores. Una empresa que avanza lentamente por razones de seguridad puede perder terreno frente a otra que lanza productos más rápido.

Gates también plantea el problema del conocimiento peligroso. Dice que los sistemas de IA que pueden ayudar a crear moléculas nuevas deben vigilarse de cerca porque las herramientas de biología pueden usarse para la medicina, pero también para hacer daño. Bioterrorismo significa el uso deliberado de gérmenes, toxinas o herramientas biológicas para lastimar a las personas. La misma capacidad general de buscar, diseñar y explicar podría apoyar nuevos tratamientos o reducir la barrera para alguien con malas intenciones. Esa es la compensación central de muchas tecnologías poderosas: la característica que las hace útiles también puede hacerlas peligrosas.

Las ideas de política que Gates propone son inusuales pero concretas. Una son los empleos reservados para humanos, es decir, ciertos puestos que la sociedad decidiría que deben seguir siendo realizados por personas, incluso si las máquinas pudieran hacerlos. Otra es gravar a los robots o los tokens de IA. En IA, un token es una pequeña unidad de texto o datos que procesa un sistema; un impuesto a los tokens recaudaría dinero del uso de IA que reemplaza el trabajo humano. El dinero podría entonces apartarse para responder a los cambios económicos que crea la IA. Estas ideas plantearían preguntas difíciles: ¿qué empleos deberían protegerse, quién decide y cómo puede una regla mantenerse al día con una tecnología que cambia rápidamente?

El desacuerdo más fuerte no es entre las personas que aman la IA y las que la odian. Es entre distintas estimaciones sobre el riesgo. Un lado teme que avanzar demasiado lentamente en seguridad podría crear daños difíciles de revertir, desde empleos perdidos hasta usos peligrosos. El otro lado teme que avanzar demasiado lentamente en la adopción podría retrasar beneficios reales y dejar las decisiones en manos de unas pocas empresas o gobiernos poderosos. La advertencia de Gates pone esa elección a la vista del público: la IA puede traer abundancia algún día, pero el camino hasta allí podría ser turbulento.