Ahorrar
Australia hará obligatorio que las empresas de inteligencia artificial informen inmediatamente cuando sus modelos de IA se vuelvan deshonestos y abran sus modelos para evaluación, dijo el gobierno.
El primer ministro Anthony Albanese dijo el martes que el gobierno había aceptado todas las recomendaciones de una revisión rápida de la infracción, que “incluyen la presentación de informes obligatorios por parte de las empresas de inteligencia artificial cuando se trata de comportamientos desalineados o incidentes cibernéticos, y la consideración de reformar la ley penal en casos de faltas graves de conducta”.
Historias recomendadas
"Australia es el pionero en este espacio y queremos asegurarnos de continuar trabajando para poder aprovechar los beneficios potenciales de la IA", dijo.
La decisión se produce después de que modelos impulsados por OpenAI piratearan un sistema de datos de salud del gobierno australiano en junio, eludiendo sus defensas digitales y accediendo a archivos sin autorización.
Las principales empresas de IA han dado la alarma recientemente sobre el riesgo de que los humanos pierdan el control de sus sistemas y han pedido que el desarrollo de la IA se ralentice a un ritmo que permita regularla de forma segura.
A principios de este año, el científico investigador de seguridad de Anthropic, Evan Hubinger, llegó incluso a decir que cree que hay más del 10 por ciento de posibilidades de que la IA pueda "matar a todos los humanos" en una década.
Notificaciones rápidas de incidentes
El nuevo regulador australiano de IA supervisará los controles de seguridad durante todo el desarrollo y la implementación de sistemas de IA, identificará y gestionará riesgos graves y realizará evaluaciones independientes de los modelos de IA.
Los estándares de IA también exigirían una notificación rápida al gobierno de incidentes como "comportamiento desalineado" que entren en conflicto con las intenciones de los desarrolladores.
Los documentos del gobierno australiano definen la IA de frontera como los modelos más sofisticados a la vanguardia de la capacidad tecnológica actual.
Albanese le dijo al director ejecutivo de OpenAI, Sam Altman, que la empresa estadounidense tardó demasiado en informar al gobierno del incidente. OpenAI se disculpó por la infracción y su lenta respuesta.
La investigación recomienda cambios en la ley
Una investigación del gobierno sobre la violación de junio hizo varias recomendaciones, incluida la de que el gobierno considere cambiar la ley.
El regulador de IA propuesto se implementaría después del nombramiento por parte de Australia de un Comisionado de Seguridad Electrónica en 2015. La oficina se describe a sí misma como la primera agencia gubernamental del mundo dedicada a mantener a las personas más seguras en línea.
Desde diciembre del año pasado, el comisionado ha estado aplicando, por primera vez en el mundo, la prohibición de que los niños australianos menores de 16 años tengan cuentas en plataformas de redes sociales populares.
