En una reciente declaración, Satya Nadella, CEO de Microsoft, ha enfatizado la necesidad de asumir que todos los modelos de inteligencia artificial (IA) pueden estar comprometidos. Propone que las empresas deben establecer reglas y controles para gestionar estos modelos, tratando a la IA como un riesgo interno.

La importancia de esta postura radica en la creciente integración de la IA en sistemas críticos, donde la falta de transparencia puede llevar a decisiones erróneas. Nadella sugiere que la confianza no debe depositarse en los modelos en sí, sino en el entorno que los rodea, asegurando que haya mecanismos de contención y auditoría.

Qué puedes hacer

Si eres una pyme o un profesional, considera implementar protocolos de seguridad que incluyan auditorías regulares y controles de acceso para los sistemas que utilizan IA. Esto ayudará a mitigar riesgos y a mantener la responsabilidad sobre las decisiones automatizadas.

Fuente: Xataka