Microsoft ha dado a conocer un código de ética para sus sistemas de inteligencia artificial con la finalidad de garantizar la supervisión humana y definir límites de seguridad.
La empresa tecnológica se ha sumado a la discusión sobre los controles necesarios para el desarrollo de la inteligencia artificial con un nuevo código que sostiene que estos sistemas deben permanecer bajo la vigilancia de las personas.
El documento, llamado «Código de conducta para una IA humanista», plantea que sus modelos tienen que estar «al servicio de las personas» y evitar que generen comportamientos autónomos.
Esta iniciativa surge tras las preocupaciones manifestadas por directivos de compañías como OpenAI y Anthropic, quienes señalan los riesgos que conlleva el avance de los sistemas de IA y solicitan mayores medidas de seguridad.
Microsoft sostiene que se debe rechazar cualquier sistema que no pueda mantenerse bajo control humano. Afirma que la inteligencia artificial debe diseñarse como una herramienta de soporte para las personas y no para imitar la conciencia humana.
El código incluye compromisos en materia de seguridad, como impedir que sus modelos faciliten acciones relacionadas con sustancias peligrosas, armas, contenidos violentos o material sexual explícito. También estipula que los sistemas deben evitar desarrollar objetivos propios o comportamientos que encubran errores o mal desempeño.
Asimismo, Microsoft indica que sus sistemas de inteligencia artificial contarán con restricciones de seguridad que prevalecerán sobre ciertas instrucciones de usuarios u operadores cuando éstas puedan generar riesgos.
El documento permanecerá abierto a comentarios durante seis semanas antes de que la empresa publique una versión revisada a finales de año. Esta guía servirá como referencia en el desarrollo de sus modelos a partir de 2027.
Además, la compañía ha afirmado que sus modelos MAI cumplirán con este código, orientándose a mantener la inteligencia artificial como una tecnología bajo supervisión humana.
Microsoft enfatiza que la IA debe ayudar a los usuarios y no estar diseñada para funcionar como un sistema con características humanas, sino como una herramienta con límites claros y mecanismos de seguridad.
Únete al canal de WhatsApp de Más que al día
Recibe las alertas de última hora directamente en tu móvil.
UNIRME GRATIS AL CANAL
