La demanda representa un nuevo capítulo en el debate internacional sobre la responsabilidad de las empresas que desarrollan sistemas de inteligencia artificial generativa.
Según la información publicada por Associated Press, los estados participantes sostienen que determinadas prácticas de la compañía podrían infringir las leyes de protección al consumidor y reclaman mayores garantías para evitar posibles daños, particularmente entre menores de edad.
Los demandantes cuestionan la manera en que se presentan las capacidades y limitaciones del sistema, así como las medidas implementadas para prevenir interacciones potencialmente perjudiciales.
El caso se desarrolla en un contexto de creciente preocupación por el impacto de la inteligencia artificial en la salud, la educación, la privacidad y la seguridad de los usuarios.
Las autoridades estatales buscan determinar si las empresas tecnológicas deben asumir responsabilidades adicionales cuando sus productos interactúan directamente con personas vulnerables o producen respuestas que podrían inducir a error.
Para la industria tecnológica, el litigio podría tener consecuencias importantes, pues las decisiones judiciales podrían influir en la forma en que se diseñan, comercializan y supervisan los asistentes conversacionales.
También podría impulsar cambios en las políticas de seguridad, los mecanismos de verificación de edad y la transparencia sobre las capacidades de los modelos de inteligencia artificial.
Es importante precisar que las acusaciones forman parte de un procedimiento judicial y no constituyen, por sí mismas, una determinación de responsabilidad. El resultado dependerá de las pruebas presentadas y de las decisiones de los tribunales.
El caso refleja una tendencia más amplia: los gobiernos están intensificando el escrutinio sobre las empresas de inteligencia artificial a medida que estas herramientas adquieren mayor presencia en la vida cotidiana.
