- OpenAI lanzó ChatGPT como prueba gratuita: un asistente que conversa, responde preguntas y redacta textos.
- Puede dar respuestas plausibles pero erróneas, algo que el propio desarrollador reconoce.
- Antes de usarlo con información de la empresa conviene fijar reglas sobre datos, confidencialidad y revisión humana.
El 30 de noviembre de 2022 la empresa estadounidense OpenAI puso a disposición del público ChatGPT, un modelo de lenguaje afinado para el diálogo, en versión de prueba de investigación y de uso gratuito. Pertenece a la serie GPT-3.5 y se perfeccionó con técnicas de aprendizaje por refuerzo a partir de la valoración de personas. Según OpenAI, puede responder preguntas de seguimiento, admitir errores, cuestionar premisas incorrectas y rechazar peticiones inadecuadas.
En pocas horas, usuarios de todo el mundo compartieron en las redes ejemplos de textos, código y resúmenes generados por la herramienta. Para empresas y despachos el interés es evidente: automatizar borradores, resúmenes y consultas. Pero nació como una prueba, con limitaciones que su propio desarrollador reconoce y con preguntas legales abiertas sobre datos, derechos de autor y responsabilidad.
Qué es y qué no es
Un modelo de lenguaje aprende a predecir la palabra siguiente a partir de enormes cantidades de texto, y genera respuestas que suenan coherentes. No consulta una base de datos de hechos verificados ni distingue por sí mismo lo verdadero de lo falso. Por eso puede producir respuestas plausibles pero incorrectas o sin sentido, una limitación que OpenAI señaló al presentarlo.
Los resultados varían según cómo se formule la pregunta, y su conocimiento tiene un límite temporal, porque se entrenó con datos anteriores a su lanzamiento. Es una buena herramienta para ordenar ideas o esbozar un borrador; no lo es, por sí sola, para tomar decisiones jurídicas, fiscales o financieras, ni para citar normas o sentencias sin comprobarlas. Tampoco garantiza que cite fuentes reales: puede inventar referencias o datos verosímiles, de modo que cada afirmación relevante debe contrastarse con fuentes fiables.
Datos y confidencialidad
Quien escribe en la herramienta está enviando información a un tercero. Las conversaciones pueden ser revisadas por el proveedor para mejorar sus sistemas, de modo que conviene no introducir datos personales de clientes o empleados, secretos empresariales ni información sujeta a deber de confidencialidad profesional. El Reglamento General de Protección de Datos se aplica cuando se tratan datos personales, también con herramientas externas. Conviene recordar además que lo que se pega en la herramienta puede incluir datos de terceros, como contratos o correos, sobre los que la empresa tiene deberes de confidencialidad y de protección.
Las empresas con obligaciones de confidencialidad, como despachos, consultoras o entidades sanitarias, deberían decidir si permiten su uso y en qué condiciones. Hay además cuestiones abiertas sobre quién tiene los derechos de los textos generados y sobre los materiales con los que se entrenó el modelo, que los tribunales y los legisladores empiezan a abordar.
Normas y buenas prácticas
La Unión Europea tramita desde 2021 una propuesta de reglamento de inteligencia artificial que clasifica los sistemas por nivel de riesgo y que sigue en negociación, de modo que todavía no existe una norma europea específica sobre estas herramientas. La propuesta distingue prohibiciones, sistemas de alto riesgo con requisitos estrictos y obligaciones de transparencia para usos como los chatbots, que deberían informar de que el usuario habla con una máquina. Mientras tanto se aplican las normas generales de protección de datos, propiedad intelectual, consumo y responsabilidad.
Una política interna breve puede bastar para empezar: qué usos están permitidos, qué información no puede introducirse, quién revisa los resultados antes de enviarlos a un cliente y cómo se deja constancia de que se ha usado la herramienta. Conviene también formar a los equipos y revisar los contratos con clientes por si limitan el uso de terceros. Por último, conviene vigilar la propiedad intelectual de lo que se publica y la reputación de la empresa si un texto generado contiene errores. Es información general.
La utilidad de estas herramientas crece con rapidez, pero la responsabilidad de lo que se firma sigue siendo humana.
Este artículo es información general. No es asesoramiento jurídico, fiscal ni de inversión, y no tiene en cuenta las circunstancias particulares de nadie.
