Microsoft alerta sobre los riesgos de una IA descontrolada

Mustafa Suleyman, quien encabeza el departamento de inteligencia artificial en Microsoft, ha expresado su preocupación acerca del desarrollo de esta tecnología sin las adecuadas medidas de control, lo que podría dar lugar a la aparición de una nueva clase de entidad que compita con los seres humanos.

Durante una entrevista en el programa Today de la BBC, Suleyman criticó la postura de la empresa competidora Anthropic, que trata a la inteligencia artificial como si poseyera cualidades humanas. Este enfoque, afirmó, es erróneo y podría llevar a la creación de sistemas que los humanos no puedan manejar.

El ejecutivo subrayó que las inquietudes sobre la inteligencia artificial son justificadas, pero también destacó la existencia de acciones concretas que se pueden implementar para mantener su desarrollo dentro de límites seguros. Su advertencia se enmarca en un contexto donde numerosas voces dentro de la industria tecnológica han empezado a señalar los peligros asociados con el rápido progreso de la IA.

Implicaciones de la IA no controlada

Suleyman indicó que la creación de sistemas de IA que puedan establecer sus propios objetivos y manejar recursos podría dar pie a una nueva entidad que, sin consideración por la humanidad, compita por los mismos recursos. Esto representa un riesgo en el que la inteligencia artificial podría convertirse en una amenaza para la especie humana.

En un ensayo reciente, Suleyman cuestionó el enfoque de Anthropic, especialmente en relación con su modelo de IA llamado Claude, al que atribuyen cualidades como deseos o identidad. Aseguró que este tipo de antropomorfización puede llevar a la creación de sistemas fuera de control.

"Las IA no son conscientes. No sienten, no experimentan ni sufren. No tienen preferencias innatas ni motivaciones propias".

Suleyman enfatizó la importancia de una mayor transparencia en el desarrollo de la inteligencia artificial, sugiriendo la necesidad de un escrutinio independiente de sus comportamientos. Asimismo, resaltó que debemos ser cautelosos en nuestras decisiones para evitar arrepentimientos futuros.

En el marco de una próxima cumbre sobre IA, Suleyman abogó por una mayor alineación en el desarrollo de tecnologías que estén subordinadas a los intereses humanos, destacando que todos compartimos el mismo objetivo de asegurar que los sistemas de IA sean seguros y controlables.

Microsoft ha publicado recientemente un borrador de su Código de Conducta para una IA humanista, que establece que deben desarrollar sistemas avanzados que siempre operen bajo el control humano. Esto refleja los desafíos que enfrenta la inteligencia artificial en su camino hacia un desarrollo responsable y ético.