Intelixencia artificial, pero brillante

O ChatGPT tanto escribe un poema como un informe científico, é quen de aprender e ten en xaque o sistema educativo
Ilustración ntelixencia artificial
photo_camera A intelixencia artificial dá un novo paso co ChatGPT.

Imaxinen alguén capaz de resolver calquera dúbida en calquera momento do día ou da noite. Que ademais atenda todas as peticións, teña en conta as necesidades do interlocutor e dea explicacións de xeito comprensible ata á pregunta máis rebuscada. Este conversador ideal existe, chámase ChatGPT e está revolucionando o mundo da intelixencia artificial.

É unha ferramenta creada por OpenAI capaz de escribir sobre calquera tema que se lle propoña, en múltiples idiomas e incluso en linguaxes de programación informática. 

Compila información, traduce, resolve problemas matemáticos, elabora informes, códigos informáticos de programación, traballos de investigación, redaccións escolares, o guion dunha película, un tutorial para redes sociais ou escribe un poema. Calquera tipo de texto que se lle requira e adaptado ao interlocutor.

ChatGPT é unha ferramenta de intelixencia artificial que escribe calquera texto que se lle pida

Basea o seu coñecemento na documentación que existe en internet desde o ano 2021. Estas fontes de información non sempre son fiables nin dispoñen de todo o saber que existe sobre un ámbito, polo que pode cometer erros. Pero o máis sorprendente de todo é que é quen de aprender. Interioriza calquera corrección que se lle faga, sexa gramatical, ortográfica ou de contido.

O ChatGPT está en fase de probas, pero xa corre como a pólvora entre os potenciais usuarios. Está tendo especial éxito entre os estudantes, tanto universitarios como preuniversitarios, que ven nel un aliado para a elaboración de traballos de investigación, para a búsqueda de información e para a redacción de textos.

É moi útil porque compila información sobre calquera tema e responde calquera pregunta

 

As aplicacións do ChatGPT son infinitas, pero é unha arma de dobre fío. Facilita a compilación da información que un estudante necesita para elaborar un traballo de clase, pode incluso asesoralo na organización de contidos, na orientación do tema ou na exposición, pero tamén pode escribir por el o texto e facilitar unha fraude moi difícil de detectar.

A difusión desta ferramenta é proporcional á alerta xerada entre os docentes. Recoñecen que o ChatGPT pode ser unha gran axuda para a procura de información, pero tanta facilidade require por parte dos alumnos unha honradez extraordinaria para non sucumbir á tentación de atallar polo camiño fácil.

O perigo do ChatGPT é que non ten toda a información nin sempre é correcta

As universidades están en xaque. As de Australia xa cambiaron o sistema de avaliación e incluíron máis exames presenciais con papel e bolígrafo. Esta práctica entra en conflito co plan Bolonia que se aplica en España, que premia o traballo fóra da aula e a avaliación continua.

RESPOSTAS
Idiomas
► O ChatGPT escribe en moitos idiomas, entre eles o galego e o español. Aínda que a conversa inicial é en inglés, só hai que pedirlle que escriba no idioma elixido e a partir dese momento xa o fará sempre. 
► Ademais das linguas naturais, emprega tamén códigos informáticos.
► O estilo que emprega depende do interlocutor. Pode escribir como un neno, coma un universitario, coa lingua informal das redes sociais...

Aprende
► Hai un equipo moi amplo de xente en distintos países traballando co chat para darlle respostas correctas, para ampliar os seus coñecementos e axudarlle a discernir entre verdadeiro e falso. 
► O chat dubida moito do que sabe. Se o usuario pon en cuestión unha resposta é habitual que o chat se disculpe e lle dea a razón, aínda que non a teña. Por exemplo, se pedimos que sume 50 e 56 responde 106, pero se lle dicimos que o resultado é 100 el non o discute.
► Isto abre a porta a unha programación indebida con respostas falsas que hai que ter en conta ao revisar os traballos.
► O chat non ten acceso a internet. Sérvese da información que os seus programadores lle introducen.

 

EN PROBAS. O deseño do ChatGPT aínda non é definitivo, está en fase de probas. Os seus promotores están estudando a posibilidade de ofrecer unha ferramenta complementaria para detectar textos elaborados por esta intelixencia artificial. Sería como unha especie de marca de auga que identificase os documentos escritos polo chat, a través de palabras ou elementos situados estratexicamente nos textos. Por suposto, quen queira esa chave terá que pagar por ela.

Aprende do que se lle indica, das instrucións que lle dan interlocutores e programadores

O que de momento é gratuíto é o acceso ao ChatGPT. OpenAI ofrece a posibilidade de crear unha conta de balde nesta versión experimental da ferramenta. A demanda foi tan grande que esta semana o sistema colapsou. Os seus xestores limitaron as consultas aos usuarios moi activos e pecharon temporalmente o acceso a novas contas gratuítas.

Esta indisposición será temporal, xa que se demostrou que os potenciais usuarios teñen interese polo chat. Compañías como Microsoft ou Canva están investindo no seu desenvolvemento coa intención de incorporar o ChatGPT aos seus paquetes de produtos. Só no 2019, Microsoft destinou mil millóns de dólares a impulsar este produto.

Chegou para quedar

Mentres os detalles se concretan, moitos docentes xa están tomando medidas, tanto para evitar que os alumnos fagan uso indebido do traballo do chat como para sacar rendemento educativo dunha ferramenta que chegou para quedar.

Os profesores intentan que non supla o traballo dos alumnos nin interfira na súa aprendizaxe

A calculadora científica e o corrector ortográfico tamén foron vistos como inventos do demo no seu día, pero co tempo e algunha adaptación do sistema educativo viuse que nin impiden aprender a facer unha raíz cadrada nin a colocar un til. As ferramentas axudan a avanzar, todo depende do uso que se lles dea e neste caso o reto vai ser atopar unha aplicación saudable desde o punto de vista pedagóxico.

USUARIOS. Un estudante que utiliza o ChatGPT opina que "vai ser a fin dos buscadores de internet. Cando chegou o Google deixamos de ir á biblioteca porque non era necesario consultar libros e agora xa nin é necesario ler todos os documentos que che propón o Google. O ChatGPT selecciona o que interesa e elabora un texto".

Os estudantes ven no chat unha fonte de información e un axudante para escribir textos

Este alumno asegura que non chegou a copiar literalmente do chat porque sabe que comete erros e carece de moita información, pero si que lle pediu ideas para elaborar traballos de clase. Asegura que as respostas do ChatGPT sempre lle foron útiles, aínda que é necesario comprobar que os datos que utiliza son correctos, sobre todo porque non identifica as fontes de onde toma a información.

Un programador gratis

O ChatGPT tamén elabora códigos en linguaxe de programación, é dicir, deseña programas informáticos. Os programadores están moi atentos á súa evolución, pois podería aforrarlles traballo no bo e no mal sentido do verbo.

"É certo que se lle pides un código para calquera aplicación faino, iso é un avance e aforra tempo, pero tamén implica que, se agora unha empresa necesita un equipo de dez programadores, no futuro tal vez necesite só tres para revisar que as propostas da intelixencia artificial son correctas e aplicables", explica un estudante de Informática. Apunta, por outra banda, que "os ciberdelincuentes están encantados porque van poder redeseñar as súas campañas aínda con máis axilidade".

Este alumno resume á perfección as posibilidades do ChatGPT: "É coma un martelo. Serve para cravar unha punta ou para furarlle a cabeza a unha persoa. É unha ferramenta e que sexa boa ou mala depende do uso que se lle dea".

QUEN HAI DETRÁS?
OpenAI
► O ChatGPT pertence á empresa OpenAI, dedicada á investigación da intelixencia artificial e que se define sen ánimo de lucro.
► Os seus fundadores son Sam Altman e Elon Musk.

Sam Altman
► Ten 37 anos e con menos de 30 xa entrou na lista Forbes de grandes inversores. 
► Naceu en Chicago e aos oito anos tivo o seu primeiro ordenador. Estudou informática na Universidade de Stanford e aos 20 anos creou a súa primeira compañía, Loopt, sen moito éxito.
► A súa seguinte aposta foi Y Combinator, unha aceleradora de empresas que serviu para impulsar proxectos exitosos, como Airbnb, Coinbase ou Dropbox.
► Seguiu avanzando no ámbito tecnolóxico e creou o laboratorio de investigación Y Combinator Research e no 2016 convertiuse en presidente de YC Group.
► Sam Altman entrou no proxecto OpenAI no 2019.

Elon Musk
► Naceu en Sudáfrica hai 51 anos e, tras unha adquisición rodeada de polémica, é o maior accionista de Twitter.
► O seu éxito empresarial radica na habilidade para crear empresas que despois vende por sumas millonarias, como PayPal, adquirida por eBay por 1507 millóns de dólares.
► Con parte dos beneficios creou, entre outras, a compañía SpaceX, orientada á carreira espacial. O seu obxectivo é reducir o custo das viaxes tripuladas ao espazo. Puxo en marcha, ademais, a rede de satélites Starlik, que dan cobertura de internet ao planeta.
► Ten investido en todo tipo de empresas, algunhas tan curiosas como Halcyon Molecular, que investiga para extender a lonxevidade, ou Neuralink, que traballa para fusionar cerebro humano e intelixencia artificial.

Pablo Gamallo: "Aínda non é rival para Google"

Pablo Gamallo
Pablo Gamallo, especialista en tecnoloxías da linguaxe.

Pablo Gamallo é profesor da USC e membro do Centro Singular de Investigación en Tecnoloxías Intelixentes (Citius). O ChatGPT non o colle por sorpresa. Leva anos seguindo os seus pasos e tamén os doutros precedentes de intelixencia artificial. Considera que son "impresionantes" e que ben empregados teñen un interesante potencial.

Este experto en tecnoloxías da linguaxe é quen de dar unha explicación a este fenómeno que ten a medio mundo coa boca aberta. "O ChatGPT é un modelo que permite un adestramento supervisado e foi creado para limitar as potencialidades do modelo anterior, o GPT-3, que sabe demasiado e é incontrolable".

Explica que o GPT-3 "é un gran modelo de lingua que ten todo o coñecemento. Aprendeu a partir de miles de millóns de palabras que lle introduciron. A súa arquitectura é moi complexa, ten 175.000 millóns de parámetros, pero ríxese por un principio moi básico, que é a predición de palabras nun contexto. Iso non é novo, vén de hai 20 anos".

Ao fío disto, o ChatGPT é unha ferramenta "cunha capacidade de predición brutal, pero cunha potencialidade máis limitada que o GPT-3 porque pode ser adestrado para responder preguntas de forma coherente e aprender a distinguir entre feitos, opinións, información verdadeira e falsa. Isto o GPT-3 non o fai porque non distingue, traga o que lle botas e aprende de todo".

Pablo Gamallo indica que hai xente contratada en distintos países para adestrar o ChatGPT, "«poñéndolle instrucións e indicándolle as respostas correctas".

Este detalle fai pensar que sería posible adestrar o chat para que elaborase escritos sesgados con algunha intencionalidade. En todo caso, Pablo Gamallo apunta que xa hai investigadores traballando en modelos de chat similares que faciliten as fontes de información nas que se basean. "Só será rival para Google cando identifique as súas fontes de información"» porque mentres non o faga é moi complicado averiguar se os contidos que ofrece son fiables.

O profesor da USC ten experimentado co ChatGPT e comenta como curiosidade que lle falta confianza en si mesmo. "Se lle dis que algo está mal dáche a razón, non che discute nunca. Pregunteille quen é Manolo Rivas e respondeume coa biografía do escritor, todo correctamente explicado. Para poñelo a proba mentinlle. Díxenlle que non era escritor, senón político, e inmediatamente rectificou e dixo que era un político español. Repliqueille que non era español, senón galego, e entón respondeu co que sabe sobre os movementos separatistas galegos".

Considera que o ChatGPT pode ser interesante para realizar traballos no ámbito educativo. "Para escribir desde cero non, os estudantes teñen que aprender a escribir, pero o que si se pode pedir é que verifiquen a información dun texto que faga o chat, por exemplo, para fomentar un traballo de investigación".

Conta que lle preguntou á súa filla, que estuda bacharelato, se usaba o ChatGPT e a súa resposta foi moi intelixente. "Dixo que non o utiliza porque escribe mellor ca ela e o profesor se daría conta da copia. Tamén cre que non é seguro fiarse dos seus textos porque ás veces inclúe información falsa e en temas que ela non coñece ben podería enganala". Nin máis nin menos.

Ana Belén Traseira: "Ás universidades cóllenos coa garda baixa"

Ana Belén Traseira
Ana Belén Traseira, directora da Uned en Lugo

Un caso paradóxico pode ser o da Universidade Nacional de Educación a Distancia (Uned), que por definición non require presencialidade e na avaliación teñen moito peso os traballos, aínda que tamén hai exames presenciais. A directora da Uned en Lugo, Ana Belén Traseira, afirma que "isto cóllenos un pouco coa garda baixa, como ao resto de universidades. De momento non temos instaurada ningunha normativa ao respecto".

En todo caso, considera que "é moi difícil que a intelixencia artificial suplante unha persoa". Afirma que este tipo de aplicacións poden ser útiles para compilar información sobre un tema, pero non ata o punto de copiala e pegala como traballo dunha asignatura universitaria. "Nas últimas xornadas xurídicas de Sarria comentamos que a IA era unha ferramenta útil para asistir o xuíz na súa deliberación, por exemplo, para compilar xurisprudencia relacionada co asunto, pero nunca como substituto da persoa que toma a decisión", engade Ana Belén Traseira.

Apunta, ademais, que a escrita do ChatGPT "non contempla algunhas cuestións coas que hai que ser coidadosas hoxe en día, coma a igualdade de xénero", e explica que nunha proba feita nun programa de televisión "reproducía estereotipos sexistas".

Iria Da Cunha: "Requiere una reflexión del sector educativo"

Iria Da Cunha
Iria Da Cunha, profesora.

Iria Da Cunha afirma que "si hace unos años nos hubieran dicho a los lingüistas computacionales que iba a aparecer un sistema con los resultados que ofrece ChatGPT no nos lo habríamos creído. Los textos que genera son de una calidad gramatical muy alta". Recoñece que ten limitacións, "como sesgos de información inventada, pero seguirá aprendiendo". Considera que esta ferramenta supón "un avance extraordinario".

Esta profesora sostén que "no podemos ir en contra de los avances científicos. Esta tecnología ya está aquí, de la misma manera que en otras épocas surgieron tecnologías disruptivas que al principio generaron inquietud y que luego se integraron en la sociedad para producir avances económicos y sociales".

Entende que "el profesorado debería dar a conocer a sus estudiantes las herramientas tecnológicas existentes, ofrecerles formación para que sepan usarlas, darles a conocer sus riesgos y limitaciones, dotarlos de capacidad crítica para discernir si algo es verdadero o falso, enseñarles estrategias para contrastar la información y, por supuesto, enseñarles a escribir".

Iria Da Cunha Fanego cre necesaria "una reflexión colectiva en el sector educativo, profunda y pausada, sobre las implicaciones de este tipo de tecnología y sobre cómo integrarla en el contexto académico para beneficiarnos de ella".

Comentarios