No es ningún secreto que Google se apresuró a lanzar el chatbot Bard el mes pasado para intentar mantenerse en la carrera de la IA generativa con ChatGPT de OpenAI. Pero el gigante tecnológico debería haberse tomado más tiempo con su proyecto. Según un nuevo informe, los empleados le dijeron a Google que no lanzara Bard, calificándolo de “mentiroso patológico”, “lamentable” y “peor que inútil”.
Bard se presentó a un público poco impresionado en una demostración en la que el chatbot dio una respuesta errónea. Sin embargo, Google decidió lanzar Bard en marzo.
Según un nuevo informe de Bloomberg, que cita documentación interna y a 18 empleados actuales y antiguos, podría haber sido más prudente para Google seguir puliendo Bard antes de permitir el acceso temprano a la IA “experimental”.
Algunas de las críticas incluyen a un empleado que escribió: “Bard es peor que inútil: por favor, no lo lancen”, en un grupo de mensajes interno visto por 7.000 personas, muchas de las cuales estaban de acuerdo con la valoración. Otro empleado pidió a Bard sugerencias sobre cómo aterrizar un avión, a lo que regularmente dio respuestas que provocarían un accidente. Bard también dio respuestas sobre submarinismo que “probablemente provocarían lesiones graves o la muerte”.
A pesar de las súplicas de los trabajadores, Google “hizo caso omiso de una evaluación de riesgos” presentada por un equipo interno de seguridad que advertía de que Bard no estaba listo para su lanzamiento.
Las fuentes de Bloomberg afirman que Google, en un intento por seguir el ritmo de sus rivales, está ofreciendo información de baja calidad y dando menos prioridad a los compromisos éticos. Se afirma que se ha dicho al personal responsable de la seguridad y las implicaciones éticas de los nuevos productos que se mantenga alejado de las herramientas de inteligencia artificial generativa en desarrollo.
Google, que eliminó su lema “Don’t be evil” (No seas malvado) de su código de conducta en 2018, despidió a la investigadora de IA Timnit Gebru en 2020 después de que fuera autora de un trabajo de investigación sobre sistemas de lenguaje de IA poco éticos. Margaret Mitchell -co-líder del equipo de IA Ética de la compañía que también escribió el documento- fue despedida unos meses más tarde debido a acusaciones de mala conducta. Meredith Whittaker, ex directiva de Google, declaró a Bloomberg que “la ética de la IA ha pasado a un segundo plano” en la empresa.
Google se está quedando atrás en sus ambiciones de IA generativa al mismo ritmo que Microsoft avanza con las suyas. La integración de funciones de IA en Bing no solo ha hecho que supere los 100 millones de usuarios activos diarios por primera vez en la historia del navegador, sino que también ha llevado a Samsung a plantearse cambiar Google por Bing como motor de búsqueda predeterminado de sus dispositivos.