Es mostren els missatges amb l'etiqueta de comentaris intel·ligència artificial. Mostrar tots els missatges
Es mostren els missatges amb l'etiqueta de comentaris intel·ligència artificial. Mostrar tots els missatges

dijous, 18 de desembre del 2025

al·lucinacions

 

AMPARO BABILONI
Las alucinaciones de la IA están afectando a un sector muy concreto: el de los bibliotecarios
xataka
11|12|2025


Qué está pasando. Lo cuentan en Scientific American. Hay personas acudiendo a bibliotecas y archivos en busca de libros o artículos científicos que no aparecen por ningún sitio por una razón: no existen. Cruz Roja Internacional ha alertado de la situación y responsabiliza a herramientas de IA como Gemini, ChatGPT o Copilot. Aseguran que "Estos sistemas no realizan investigaciones, verifican fuentes ni cotejan información. Generan nuevos contenidos basándose en patrones estadísticos y, por lo tanto, pueden producir resultados inventados".

Bibliotecarios hartos. La directora de investigación de la biblioteca de Virginia estima que al menos un 15% de las consultas que reciben a través del correo son sobre documentos y trabajos generados por ChatGPT y herramientas similares. "Para nuestro personal, es mucho más difícil demostrar que no existe un registro único", asegura. Una usuaria de Bluesky relata una experiencia similar cuando un estudiante le pidió que encontrara una serie de referencias. Tras un rato buscando sin éxito, le preguntó al estudiante de dónde había obtenido la lista y confesó que venía de los resúmenes de IA de Google.

Las citas inventadas no son algo que empezara a suceder antes de ayer, en 2023 ya había discusiones al respecto. La Universidad de Seattle detectó que muchas veces es muy complicado verificar estas citas inventadas. El motivo es que la IA suele dar títulos de revistas o libros que existen, pero lo que no existe es el capítulo o número donde se encuentra la información. Lo que hace es mezclar información para que parezca convincente, cuando en realidad es un callejón sin salida.

La IA y los libros. Las referencias inventadas no son el único problema, hay bibliotecarios que también critican los libros creados enteramente con IA por ser "increíblemente malos" y recientemente hemos conocido el caso de Corea del Sur y el fracaso estrepitoso de su programa de libros escolares hechos con IA. 

Por otro lado tenemos el problema del copyright. Igual que con obras de arte, los libros también han sido usados para entrenar la IA sin compensar a sus autores. Un grupo de autores demandó a Anthropic por este motivo, pero el juez falló a favor de la empresa.

Papers sobre IA, hechos con IA. En un artículo de Futurism contaban que una consecuencia del slop de la IA es que los propios papers que investigan la IA están hechos con IA. Se estima que la cantidad de papers sobre IA se ha duplicado en los últimos años y revistas como NeurIPS han tenido que pedir ayuda a estudiantes de doctorado para que les ayuden a revisarlos. Hay un caso concreto de un investigador llamado Kevin Zhu que ha participado en más de 100 papers en un año, una cifra desorbitada para los expertos. Para sorpresa de nadie, muchos de estos papers son un auténtico desastre lleno de citas inventadas, errores flagrantes y a veces texto oculto para manipular los propios sistemas de revisión.

Alucinaciones. Que la IA se invente cosas es bastante habitual, son lo en la jerga de la IA se conoce como alucinaciones y uno de los puntos débiles de los modelos de lenguaje; los avances son enormes, pero la realidad es que aún no podemos fiarnos de la IA y es necesario comprobar la información. Las alucinaciones suelen ser el motivo por el que pillan a quienes usan la IA en sus trabajos, como la consultora Deloitte, que entregó un informe al gobierno australiano que contenía referencias a informes totalmente inventados. 


divendres, 23 d’abril del 2021

jo, robot; tu, escriptora



XAVI AYÉN
Jo, robot; tu escriptora
La Vanguardia
20|4|2021


El futur ja és aquí, al carrer Enric Granados. No cal que aneu a Silicon Valley (a més, tampoc no podríeu). Que enguany, a causa de la pandèmia, no venen escriptors internacionals a signar llibres per Sant Jordi? Això no és cap problema, sinó un repte, per a l’aliança estrategicotecnològica entre Igualada i la Xina, l’eix que ahir va transformar per sempre més els Sant Jordis. Per la capital de la comarca de l’Anoia, la distribuïdora SolidPerfil3D. Pel costat xinès, els fabricants de robots DexArm. Pel costat literari, la cooperativa Abacus, que va posar el local i els lectors, i el grup Penguin Random House, que ha seleccionat sis dels seus autors amb més ganxo, sis, per sotmetre’s a l’experiència.
Les signatures a distància són una aplicació de la intel·ligència artificial a les tradicions catalanes de l’abril, traslladable a qualsevol fira del llibre o esdeveniment literari afectat per les restriccions de mobilitat i les mesures sanitàries. El suec Jonas Jonasson, la xilena Isabel Allende i el britanicoxipriota Alex Michaelides van signar ahir exemplars dels seus llibres a un grup d’entusiastes lectors  – seleccionats per sorteig– des de les respectives cases a Estocolm, Califòrnia i Londres. Primer, per videoconferència, xerraven en directe amb cadascun dels fans i, a l’hora d’estampar-hi la dedicatòria, feien servir una tauleta que enviava la informació a un braç robotitzat a Barcelona –n’hi havia tres–, que reproduïen exactament la seqüència de moviments i el traç de cada autor.
“És absolutament màgic –exclama Isabel Allende–; estic molt contenta, perquè és un pas més; la pròxima vegada hi haurà un holograma meu i fins i tot podré abraçar els lectors; això és a tocar”.
Una de les seves lectores, l’Imma, funcionària, li ha portat un pastís.
–Però si la tecnologia encara no permet que se’l mengi!
–És igual, que se’l miri. És de Casa Vives, de Sants, i hi han reproduït, a la superfície, en xocolata de colors, la portada del seu últim llibre, Mujeres del alma mía. Isabel, és per a tu. Ja te’n cruspiràs un de debò quan tornis a Barcelona!
La Laura, dissenyadora gràfica de 22 anys, va llegir quan anava a l’institut La casa de los espíritus i li està “molt agraïda, perquè és el llibre que em va fer recuperar les ganes de llegir que havien destrossat les lectures obligatòries”. La Jésica, mestressa de casa peruana, que fa quinze anys que viu a Barcelona, li ha portat Mi país inventado. Ha vingut “per una sorpresa que m’ha fet el meu fill Luis, que estudia Economia a la universitat i sap que m’agrades molt”. A la Marina també l’ha portada la seva filla Alicia, i la Merche ve amb la seva filla Bea, que vol ser escriptora.
La Lidia l’emociona perquè li porta una primera edició de La casa de los espíritus de Plaza & Janés. “Aquesta edició la tinc signada per tots els actors de la pel·lícula i de l’obra de teatre, pels meus pares i per la meva agent Carmen Balcells; té una gran història”. Magalí li pregunta per una experiència que va declarar haver patit fa anys, i Allende li confessa: “No ho recordo, me la devia inventar; la meitat del que dic és mentida. El més important, quan parles en públic o davant d’un mitjà de comunicació, és que no et caiguin els pantalons... I això no m’ha passat mai!”, diu rient.
David Vives, de SolidPerfil3D, treu pit. El seu braç robòtic no només signa, sinó que “també fa impressions 3D i rajos làser, o agafa objectes i els transporta”.
Avui serà el torn de l’israelià Yuval Noah Harari (en diferit, ja que té l’agenda plena), del francès Pierre Lemaitre i del suec Niklas Natt och Dag, tots dos en directe.
Frankfurt, Guadalajara, Londres i Cartagena de Indias, epicentres de les trobades editorials abans del virus, observen atentament. El món ens mira. Quan les firmes a distància siguin habituals, podrem dir que vam ser, l’abril del 2021, a l’Abacus d’Enric Granados, on va començar tot. Només ens queda un dubte: els braços robòtics tenen cruiximents elèctrics?

diumenge, 30 d’abril del 2017

escriptors no humans


«L’abril de 2016 es va anunciar que entre els finalistes del premi literari japonès Nikkei Hoshi Shinichi es trobava la novel·la curta Konpyuta ga shosetsu wo kaku hi (El dia que un ordinador escriu una novel·la) que de fet estava coescrita per una intel·ligència artificial. Programada per un equip de la Universitat de Hadokate, la AI va crear una novel·la a partir de les paraules, frases, trames i característiques de personatges que els seus cocreadors humans li van proporcionar. Es calcula que de fet l’autoria de l’algoritme correspon a un 20% del resultat final. Aquest és un premi realment únic, perquè permet propostes creades per escriptors no humans, i en aquesta edició es varen presentar 11 propostes generades per IA».

Els nous escriptors digitals: la intel·ligència artificial guanyarà un proper Nobel de literatura? Imma Garcia. Cultura digital. 19|4|2017.

dijous, 29 de desembre del 2016

patrons narratius


Un algoritmo demuestra que las novelas se ajustan sólo a seis modelos
Un proyecto de minería de datos reduce a media docena la cantidad de patrones narrativos distintos que se ha seguido en toda la historia de la literatura occidental
JOSEP LLUÍS MICÓ
La Vanguardia
21|12|2016

La minería o exploración de datos —data mining, en inglés— ha permitido reducir a seis la cantidad de patrones narrativos distintos que se ha seguido en la literatura occidental. Los intentos para llegar a una conclusión sólida en este aspecto se han repetido a lo largo de la historia. El escritor francés Georges Polti, entre otros, afirmaba que había 36 tipos diferentes de historias. Pero, ahora, un equipo de investigadores de la universidades de Vermont (Estados Unidos) y Adelaida (Australia) ha reducido esta cantidad hasta la media docena de patrones narrativos gracias a un algoritmo.
Los impulsores de esta aportación científica han trabajado a partir de unos 1.700 libros del Proyecto Guternberg, un completo compendio de clásicos. Empezaron por eliminar algunas obras, como los diccionarios y las que no habían llegado a las 150 descargas, y analizaron el contenido de las novelas tomando muestras de texto, a las que denominaron “ventanas”. Utilizando un sistema desarrollado por el Computational Story Lab y el servicio Mechanical Turk de Amazon reunieron estas compilaciones de más de mil palabras para calificarlas en un espectro cuyos valores iban de lo claramente positivo a lo absolutamente negativo.
De este modo se generaron gráficos sobre la trayectoria de los personajes, con sus altibajos, que mostraban arcos muy claros en la evolución de los relatos. Tras simplificar estos esquemas se llegó a seis casos.
1. De los harapos a la riqueza. La fortuna de los protagonistas mejora con el tiempo.
2. En el agujero. La suerte inicialmente es equiva, no obstante, la remontada es posible.
3. Cenicienta. De lo favorable se pasa a lo oscuro por culpa de un revés; el final, sin embargo, es feliz.
4. Tragedia. El destino de los principales individuos empeora sin remedio.
5. Edipo. Figura en quinta posición: la promesa posterior a un mal arranque no se materializa y todo termina con la caída final.
6. Ícaro. A pesar de los buenos augurios, los protagonistas están condenados al fracaso.
Por supuesto, los autores reconocen que hay libros que no encajan en estos arquetipos, por ejemplo, Harry Potter y las Reliquias de la Muerte, de J. K. Rowling. Aun así, añaden, la inmensa mayoría sí lo hace, en especial, como demuestran los datos, las obras tienden a ajustarse a los modelos 1 y 2. Los científicos no se detuvieron en la construcción de las frases o los párrafos. Les bastó con estudiar la “valencia emocional” a gran escala.
El método no está exento de carencias. El algoritmo en el que se basa agrupa a los personajes para captar el tono de las novelas. Por esta razón, se pierden numerosas particularidades. Además, no se presta atención a la literatura de otros cánones o culturas que no sean los occidentales. Sea como fuere, los expertos en inteligencia artificial que han publicado este artículo, Andrew J. Reagan, Lewis Mitchell, Dilan Kiley, Christopher M. Danforth y Peter Sheridan, concluyen que si queremos enseñar a los ordenadores a pensar como nosotros, tendrán que entender cómo vemos el mundo, y esta investigación resulta muy útil para ello.

Llegiu també - - -> Simplificació i ximpleria. The Daily Avalanche.