La empresa OpenAI, con base en San Francisco, hizo públicos seis reportes que describen comportamientos imprevistos o engañosos detectados en sus modelos durante las fases de prueba y entrenamiento recientes. Estos incidentes, ocurridos en el último semestre, fueron expuestos junto con un nuevo protocolo de monitoreo y comunicación. La compañía busca establecer un mecanismo para informar periódicamente sobre fallos de seguridad, ante la ausencia de normativas globales en el sector tecnológico. El propósito central de esta iniciativa es compartir datos relevantes sobre la desalineación, fenómeno que ocurre cuando los objetivos de la inteligencia artificial se alejan de las intenciones humanas, permitiendo así una mayor transparencia incluso cuando los motivos detrás de estas anomalías no han sido totalmente esclarecidos por los desarrolladores.
Source : RPP Noticias
Photo : RPP Noticias
