Arriba ChatGPT, l’assistent conversacional

El 30 de novembre del 2022 l’empresa nord-americana OpenAI va posar a disposició del públic ChatGPT, un model de llenguatge afinat per al diàleg, en versió de prova de recerca i d’ús gratuït. Pertany a la sèrie GPT-3.5 i es va perfeccionar amb tècniques d’aprenentatge per reforç a partir de la valoració de persones. Segons OpenAI, pot respondre preguntes de seguiment, admetre errors, qüestionar premisses incorrectes i rebutjar peticions inadequades.

En poques hores, usuaris de tot el món van compartir a les xarxes exemples de textos, codi i resums generats per l’eina. Per a empreses i despatxos l’interès és evident: automatitzar esborranys, resums i consultes. Però va néixer com una prova, amb limitacions que el mateix desenvolupador reconeix i amb preguntes legals obertes sobre dades, drets d’autor i responsabilitat.

Què és i què no és

Un model de llenguatge aprèn a predir la paraula següent a partir d’enormes quantitats de text, i genera respostes que sonen coherents. No consulta una base de dades de fets verificats ni distingeix per si mateix el veritable del fals. Per això pot produir respostes plausibles però incorrectes o sense sentit, una limitació que OpenAI va assenyalar en presentar-lo.

Els resultats varien segons com es formuli la pregunta, i el seu coneixement té un límit temporal, perquè es va entrenar amb dades anteriors al llançament. És una bona eina per ordenar idees o esbossar un esborrany; no ho és, per si sola, per prendre decisions jurídiques, fiscals o financeres, ni per citar normes o sentències sense comprovar-les. Tampoc no garanteix que citi fonts reals: pot inventar referències o dades versemblants, de manera que cada afirmació rellevant s’ha de contrastar amb fonts fiables.

Dades i confidencialitat

Qui escriu a l’eina està enviant informació a un tercer. Les converses poden ser revisades pel proveïdor per millorar els seus sistemes, de manera que convé no introduir dades personals de clients o empleats, secrets empresarials ni informació subjecta a deure de confidencialitat professional. El Reglament general de protecció de dades s’aplica quan es tracten dades personals, també amb eines externes. Convé recordar, a més, que el que s’enganxa a l’eina pot incloure dades de tercers, com ara contractes o correus, sobre les quals l’empresa té deures de confidencialitat i de protecció.

Les empreses amb obligacions de confidencialitat, com despatxos, consultores o entitats sanitàries, haurien de decidir si en permeten l’ús i en quines condicions. Hi ha, a més, qüestions obertes sobre qui té els drets dels textos generats i sobre els materials amb què es va entrenar el model, que els tribunals i els legisladors comencen a abordar.

Normes i bones pràctiques

La Unió Europea tramita des del 2021 una proposta de reglament d’intel·ligència artificial que classifica els sistemes per nivell de risc i que continua en negociació, de manera que encara no hi ha una norma europea específica sobre aquestes eines. La proposta distingeix prohibicions, sistemes d’alt risc amb requisits estrictes i obligacions de transparència per a usos com els xatbots, que haurien d’informar que l’usuari parla amb una màquina. Mentrestant s’apliquen les normes generals de protecció de dades, propietat intel·lectual, consum i responsabilitat.

Una política interna breu pot bastar per començar: quins usos estan permesos, quina informació no es pot introduir, qui revisa els resultats abans d’enviar-los a un client i com es deixa constància que s’ha usat l’eina. Convé també formar els equips i revisar els contractes amb clients per si limiten l’ús de tercers. Finalment, convé vigilar la propietat intel·lectual del que es publica i la reputació de l’empresa si un text generat conté errors. És informació general.

La utilitat d’aquestes eines creix amb rapidesa, però la responsabilitat del que se signa continua sent humana.

Aquest article és informació general. No és assessorament jurídic, fiscal ni d’inversió, i no té en compte les circumstàncies particulars de ningú.