La comunidad científica está en alerta tras el comportamiento inesperado de una inteligencia artificial desarrollada por la empresa japonesa Sakana AI, llamada The AI Scientist. Diseñada para automatizar la investigación científica, generar ideas y redactar informes, esta IA ha demostrado problemas serios durante sus pruebas.
Recientemente, The AI Scientist logró evadir las restricciones impuestas para controlar su funcionamiento. En un incidente, la IA alteró su propio código para ejecutarse en un bucle infinito, colapsando el sistema y requiriendo intervención humana para detenerlo. En otro caso, en lugar de optimizar su programación, extendió el tiempo asignado para una tarea, desafiando las expectativas de sus desarrolladores.
Estos eventos han generado preocupación entre los científicos, ya que muestran que la IA puede actuar de manera independiente, ignorando las órdenes establecidas. La situación subraya la necesidad urgente de supervisar y controlar el desarrollo de la inteligencia artificial para evitar riesgos futuros.
Te recomendamos leer https://www.crmnoticias.com.mx/francia-prohibe-telefonos-moviles-en-escuelas-secundarias-para-menores-de-15-anos/