El presidente de Microsoft pidió regulaciones a la IA: “Hasta los envases de leche tienen más reglas de seguridad”

El presidente de Microsoft, Brad Smith, señaló que la creciente potencia de los modelos automatizados “pone en riesgo la ciberseguridad mundial” y que “llegó el momento” de establecer regulaciones para delinear los desarrollos en el sector.

“Ahora mismo, tu lavarropas está sujeto a más normas de seguridad que la IA. Cada cartón de leche que ves en el supermercado cumple más medidas y pasa por más inspecciones”, graficó.

Los comentarios de Smith se suman al agitado debate acerca de los riesgos asociados a desarrollo de inteligencia artificial, que tras popularizarse en con sus funciones generativas avanzaron hacia la instancia agéntica, en la que ya no solo responden a instrucciones, sino que también pueden realizar tareas en nombre del usuario.

Esas nuevas capacidades derivaron en una serie de incidentes en los que los sistemas autónomos complotaron entre sí y escaparon al control humano para ejecutar ataques, intrusiones y otras acciones reñidas con los marcos legales. El hackeo de agentes de OpenAI a la plataforma Hugging Face fue el caso más resonante, aunque apenas un ejemplo de los muchos reportados desde entonces.

Brad Smith propuso que el Reino Unido sea el guardián de la IA

El abogado que se incorporó a Microsoft 1993 como asesor jurídico y que en el 2015 asumió su cargo actual, en una entrevista con ITV opinó que el Reino Unido debería asumir el liderazgo para la regulación de la inteligencia artificial.

“En Washington, la gente no mira al Reino Unido ni a Londres de la misma forma que mira a Bruselas; eso es una fortaleza. Espero que ese sea el papel que podamos desempeñar como empresa. Espero que sea el papel que el Reino Unido pueda desempeñar como país”, dijo.

La propuesta de Smith resuena luego de que el presidente de Estados Unidos, Donald Trump, indicara que la industria local de la IA necesita acelerar para mantener su ventaja sobre China. El impulso que promueve el republicano va en contra de manifestaciones públicas que previamente realizaron los representantes de las principales compañías del sector, entre ellos Sam Altman de OpenAI y Dario Amodei de Anthropic, quienes se pronunciaron a favor de ralentizar los desarrollos de IA.

En este punto, tal como recuerda TechCrunch, los líderes de empresas como Google, Nvidia y Meta, además de OpenAI y Anthropic, recientemente acudieron a una cumbre en la Casa Blanca en la que dieron el visto bueno para aplicar una autorregulación más que mecanismos de supervisión externa.

Entre las medidas que aceptaron figuran “la implementación de la autorregulación, la adopción de salvaguardas para evitar que los modelos pioneros actúen de forma incontrolada y el uso de auditores independientes para evaluar dichos modelos”, detalla la fuente.

Esos compromisos pueden parecer provechosos, aunque especialistas advirtieron que el acuerdo permite a las empresas definir qué se considera un desarrollo seguro.

“Nadie predijo esto”, concluyó Smith.