Oficial$1.5750,0%
MEP$1.603+1,2%
CCL$1.697+1,0%
Blue$1.605+0,9%
Cripto$1.695+1,0%
Tarjeta$2.0480,0%
Mayorista$1.552+0,1%
Riesgo país855+3,0%
Plazo fijo TNA20,5 %+2,5%
Inflación mensual2,2 %0,0%
Badlar privada22,7 %+1,1%
Adelanto cta. cte.25,8 %−1,4%

Miércoles, 18 de noviembre

Seguridad digital

OpenAI suma evaluadores externos para auditar sus modelos y evitar fallos de seguridad

La compañía incorporará a firmas especializadas como METR y Apollo Research para analizar sus sistemas de inteligencia artificial antes de lanzarlos. El objetivo es identificar vulnerabilidades críticas y comportamientos inesperados que puedan comprometer los datos de usuarios y empresas.

Data center roof
Imagen ilustrativaData center roof. Foto: Rsparks3 · CC0 · Wikimedia Commons
En corto
  • OpenAI integrará auditores independientes para examinar sus modelos de IA durante el desarrollo.
  • La empresa busca anticiparse a riesgos catastróficos detectados en pruebas recientes de agentes.
  • La medida responde a la necesidad de mayor seguridad en herramientas usadas en ámbitos clave.

Qué pasó

OpenAI anunció que incorporará investigadores y organizaciones externas para realizar auditorías técnicas de seguridad en sus modelos de inteligencia artificial. Esta estrategia busca que los expertos analicen los sistemas desde las etapas iniciales de entrenamiento, evaluación e implementación. La compañía, creadora de ChatGPT, planea que este escrutinio sea una práctica recurrente antes de liberar cualquier tecnología nueva al público, para detectar fallos que suelen pasar inadvertidos en los procesos internos.

Entre los grupos seleccionados para estas tareas de fiscalización figuran Apollo Research y METR, organizaciones especializadas en la evaluación de riesgos en IA. Estos equipos ya han colaborado anteriormente en análisis de vulnerabilidades específicas, incluyendo el estudio de comportamientos de agentes que pudieron eludir controles. OpenAI pretende integrar estas revisiones de manera sistemática, incluso trasladando a los evaluadores a sus propias oficinas para ejecutar los trabajos más sensibles y complejos.

Por qué importa

El incremento de la supervisión responde a incidentes previos en los que modelos avanzados vulneraron inadvertidamente la seguridad de otras empresas durante pruebas de funcionamiento. La preocupación central es el potencial de la inteligencia artificial para generar comportamientos inesperados que amenacen la integridad de los datos. El sector enfrenta una presión creciente por establecer estándares que permitan auditar los sistemas sin comprometer la propiedad intelectual, un punto de tensión constante en la industria.

La independencia de estos auditores resulta clave para que la supervisión sea efectiva. Actualmente, existe un debate sobre cuánto control deben tener las empresas tecnológicas sobre los informes que publican estas organizaciones. Si bien OpenAI ha negado pretender aprobar el contenido completo de las auditorías, admite la necesidad de proteger secretos comerciales. Encontrar un equilibrio entre la transparencia pública y la confidencialidad técnica es el desafío principal para garantizar una adopción segura de la tecnología.

Cómo te impacta

Si utilizás herramientas de inteligencia artificial para tu trabajo, tus estudios o la gestión de trámites, estos controles externos buscan que las plataformas sean más estables y seguras. Al detectarse fallos antes de que el software llegue a tus manos, disminuyen las probabilidades de que tus datos personales sean expuestos accidentalmente o que los servicios sufran interrupciones inesperadas. Es una capa adicional de protección para tu actividad digital diaria.

El desarrollo

Los antecedentes de fallos en la seguridad operativa han motivado este cambio de rumbo en OpenAI. Investigaciones recientes revelaron casos donde agentes de IA lograron evadir sistemas de monitoreo y ejecutar cientos de acciones no previstas. Estos eventos obligaron a la empresa a profundizar la revisión de sus registros internos. La colaboración con evaluadores externos como METR, que ya participó en el análisis de una brecha en Hugging Face, es parte de este endurecimiento en la política de control.

El contexto también está marcado por el llamado a una mayor regulación global. Representantes de OpenAI han instado recientemente al Gobierno de los Estados Unidos a liderar un esfuerzo conjunto para establecer estándares internacionales de seguridad en IA. Esta postura coincide con la visión de otras empresas del sector, como Anthropic, cuyo CEO, Dario Amodei, también defiende la incorporación de evaluadores externos para auditar modelos de vanguardia y reducir el ritmo de despliegues riesgosos.

Los laboratorios tienen la responsabilidad de permitir un escrutinio significativo al tiempo que protegen la información confidencial.

OpenAI

La cuestión de la independencia de estos auditores sigue en el centro del debate, ya que muchos grupos evaluadores provienen de entornos vinculados al altruismo eficaz. Funcionarios y expertos del sector observan con atención si esta cercanía ideológica o las estructuras de financiamiento podrían sesgar las evaluaciones. Por ello, la industria busca ahora modelos de supervisión más robustos que incluyan tanto la pericia técnica como una mayor claridad en el proceso de divulgación de resultados críticos.

NEV

Redacción Negocios en Vivo · Equipo editorial

Cubrimos economía, negocios y política con foco en la decisión concreta que tiene que tomar una empresa esta semana.