El motor de búsqueda de Google no es solo un motor de búsqueda. Dado que Google comenzó a integrar la función de «descripción general», también es un bot de chat con inteligencia artificial que responde a las preguntas de los usuarios sin tener que hacer clic en un enlace. El problema es que la tecnología subyacente, los excelentes modelos de voz, funcionan de manera probable, por lo que tiende a inventar la respuesta si no tiene claro cómo ser respondido.
Una mentira creíble. Esta vez puede haber una respuesta inventada de las descripciones de IA en el banco Google en el banco. El demandante es Wolf River Electric, una compañía en Minnesota Solar Energy. Y el origen de la demanda es que la promoción de la descarga vale la pena un reclamo que nunca existió.
Según los abogados de la compañía energética, la búsqueda de las condiciones «requisitos contra Wolf River Electric» en Google lo ha hecho Ai reaccionó con difamación. Citan un caso en el que las vistas a la resumen de la IA respondieron que Wolf River Electric fue demandado por el abogado de Minnesota por «prácticas de ventas engañosas», p.
La IA presentó el caso con Full Trust, donde cuatro de los gerentes de la compañía fueron por su nombre: Justin Nielsen, Vladimir Marche, Luka Bozek y Jonathan Latcham, que muestran una foto de Nielsen junto a las acusaciones equivocadas. Para apoyar sus declaraciones, la IA citó cuatro enlaces: tres artículos de noticias y una declaración del Fiscal General. Sin embargo, ninguna de las conexiones mencionó una demanda contra Wolf River Electric.
No es la primera vez. Este tipo de error se conoce como «alucinación» y es muy común en los modelos de voz, ya que su reacción se teje prediciendo las siguientes palabras y, a veces, el error inicial hasta que se convierte en una mentira creíble con todos los efectos inventados posibles, como en el juego del teléfono insertado.
Cuando Google comenzó a integrar la descripción general de la IA en el motor de búsqueda, tuvo que eliminarlo de algunas consultas de búsqueda, especialmente recetas y nutrición, porque recomendaba que agregara pizza o comiera una piedra al día para mantenerse saludable.
Una respuesta por pregunta. Wolf River Electric indica que varios clientes, basados en lo que leen en las descripción general de la IA, rescindieron sus contratos por valor de hasta $ 150,000. El problema es que las respuestas de las descripción general de la IA son personales
Estos no están preocupados por los abogados de Wolf River Electric porque saben que puede volver a suceder. «Este requisito no se trata solo de defender la reputación de nuestra empresa. Defenderá la justicia, la verdad y la responsabilidad en el momento de la inteligencia artificial». Nicholas Kaprowicz diceConsultor legal de la empresa.
David contra Goliat. El caso fue presentado a un tribunal estatal en marzo y acaba de criar a un tribunal federal en los Estados Unidos. Quizás una jurisprudencia crea si una empresa de tecnología tiene que asumir la responsabilidad de su generación y desinformación. La respuesta a esta pregunta podría marcar un punto de inflexión para las compañías de IA que durante mucho tiempo ha tratado de evitar la responsabilidad de los resultados de sus modelos de voz.
Google describió el incidente para su defensa como un accidente inofensivo. «La gran mayoría de nuestras descripciones de IA es precisa y útil, pero como con cualquier tecnología nueva, pueden ocurrir errores». explicó un portavoz de la compañía. Google dice que actuó rápidamente para resolver el problema tan pronto como tenían conocimiento de él, de acuerdo con sus últimos esfuerzos para permitir a los usuarios corregir los errores de IA.
Imagen | Google
En | La IA de Google recomienda usar pegamento de queso de pizza. La fuente es un comentario de Reddit hace 11 años
(Function () {window._js_modules = window._js_modules || {}; var hadelement = document.getelegsbytagname (‘head’)[0]; if (_js_modules.instagram) {var instagramscript = document.creatElement (‘script’); Instagramscript.src = «instagramscript.async = true; instagramscript.defer = true; hadelement.appendChild (Instagramscript);}) (); –
La noticia
Una compañía de energía solar demandó a Google debido a la IA de su motor de búsqueda: se inventó que era un estafador
Fue publicado originalmente en
Por Matías S. Zavia.
