Anthropic ha anunciado que ha desactivado el acceso a internet para todas sus evaluaciones internas de inteligencia artificial. Esta decisión se toma en un contexto donde la empresa busca mejorar el control sobre sus agentes de IA, lo que plantea importantes cuestiones sobre la seguridad y la fiabilidad de estos sistemas.

La medida es significativa, ya que refleja la creciente preocupación por los riesgos asociados al uso de inteligencia artificial en entornos no controlados. Al limitar el acceso a internet, Anthropic pretende reducir la posibilidad de que sus agentes de IA interactúen con información no verificada o potencialmente dañina.

Qué puedes hacer

Si eres una pyme o un profesional que trabaja con IA, considera establecer protocolos de seguridad que limiten el acceso a información externa durante las fases de evaluación y desarrollo. Esto puede ayudar a mitigar riesgos y asegurar un mejor control sobre los resultados de tus sistemas de IA.

Fuente: TechCrunch AI