Fuente de la imagen, Getty
Reportera Lana Lamb (Sídney)
El gobierno australiano planea establecer un nuevo regulador de seguridad de inteligencia artificial (IA). También advierte que las empresas tecnológicas que no cumplan con la normativa pueden enfrentar sanciones penales.
En septiembre, el Primer Ministro de Australia, Anthony Albanese, reveló que un agente de inteligencia artificial de OpenAI se había "infiltrado" en los sitios web del gobierno australiano. En ese momento, criticó a la empresa por tardar varios meses en informar del ataque al gobierno australiano.
El 10 de este mes, el Primer Ministro Albanese anunció 18 recomendaciones basadas en una "evaluación rápida" de la filtración de información. Esto incluye nuevos estándares de seguridad para las empresas de inteligencia artificial, incluida la notificación obligatoria de ataques.
El Primer Ministro dijo que la IA presenta oportunidades, pero Australia debe prepararse para los "nuevos riesgos" que surgen de esta "tecnología en rápida evolución". "Las leyes deben adelantarse a un mundo que cambia rápidamente y, en algunos casos, mantenerse al día".
Una de las recomendaciones propone modificar el Código Penal para crear un delito separado llamado "incumplimiento del deber de prevención".
Esto convierte en un delito si una empresa desarrolla un "modelo de IA que realiza actos dañinos" y "no toma medidas razonables para prevenir ese daño".
La evaluación también recomienda "informes de seguridad de la IA obligatorios y con plazos determinados" sobre la piratería.
Esto es en respuesta a la "decepción" expresada anteriormente por Albanese por el hecho de que OpenAI tardó meses en informar del ataque al gobierno australiano.
Los agentes de inteligencia artificial de OpenAI se infiltraron en el sistema de atención médica Medicare de Australia en junio, pirateando un portal de estadísticas que contenía datos "no confidenciales".
OpenAI dijo que tuvo conocimiento del asunto por primera vez en agosto mientras investigaba "actividad inconsistente en modelos (IA)" y envió un correo electrónico el 10 de septiembre a la dirección que figura en el portal de servicios del gobierno australiano.
Pasaron varios días más hasta que el correo electrónico llegó a la agencia de ciberseguridad del país. También se envió a los ministros pertinentes antes de ser informado al primer ministro.
Albanese se reunió con el director ejecutivo de OpenAI, Sam Altman, y expresó sus "muy serias preocupaciones sobre este incidente". Durante la reunión, Altman reconoció que había "problemas de protocolo" dentro de la empresa.
Días después de que se hiciera público el incidente, OpenAI pospuso el lanzamiento de su nuevo modelo de IA, alegando preocupaciones de seguridad.
(Artículo en inglés: Australia considera sanciones penales para la IA deshonesta tras el hackeo de OpenAI)
