- Els LLM creen una dependència adequada: incentius de mercat, ajudes “acadèmiques” i disseny d'interfícies que faciliten la delegació inclòs lo inmoral.
- No comprenden ni distinguen bien creencias de hechos: estudios epistémicos, sesgos y fluidez persuasiva que confunde seguridad con verdad.
- Costes, dades i energia concentran poder: escalat caro, privacitat complicada i huella ambiental amb retocs d'accés equitatiu.
Els grans models de llenguatge (LLM) han passat de curiositat tech a herramienta ubicua en temps record. Fascinan per la seva fluidez i versatilitat, però també arrastran una sèrie de trampes cognitives, econòmiques i ètiques que rara vegada es posa sobre la taula amb la mateixa intensitat que la seva propaganda. La trucada "trampa de dependències" no és sol tecnològic: implica incentius empresarials, hàbits d'ús i una narrativa que pot convertir l'assistència en muleta permanent.
En paral·lel, se ha revifat la vella il·lusió de consciència aplicada a las máquinas: donde hay palabras bien hiladas tendemos a ver mente y emociones. Sumem l'empuje de productes de “ayuda con la tarea” que, amb un gir d'eufemisme, poden normalitzar atats acadèmics, i el quadre es complica. El resultat és un usuari cada vegada més còmode delegant, aun quan el sistema ni comprèn ni assumeix responsabilitat per les conseqüències.
La “trampa de dependencias”: preus, incentius i debers fets per la IA
Una lectura crítica del mercado de LLM sugiere que el seu cost actual estaría amortit per capital risc i per esforços en tecnologies de contenedorització, amb la vista puesta en pujar preus quan hagi massa crítica dels usuaris cautius. Si aquesta hipótesis es compleix, molts abandonarien el barco per encarçar el servei, perquè la utilitat real per a la gran part del públic és irregular i difícilment justificaria cuotes de tres xifres mensuals.
Mentrestant, la búsqueda de casos d'ús “fiables” ha trobat terreny fértil en l'educació. Etiquetats com “asistencia con tareas”, alguns fluxos es converteixen en casi trivial “resolver por ti” exercicis o treballs. Hubo inclòs proves integrades al navegador per seleccionar text a la pantalla i rebre la resposta a l'instant; tras la reacció pública es retiraron, però la idea no sembla haver desaparegut. Amb eines cada vegada més potents per interpretar enunciats i redactar respostes, copiar, pegar i demanar a la carta amenaza con convertirse en la vía por defecto.
Des de la lògica empresarial, si l'adopció estudiantil és el cas d'ús més estable, se emmpujará a reforzarlo. El risc: alumnes formats en dependència, que, davant un eventual acolliment, sientan que deben pagar perquè ja no dominen les destrezas base. La pregunta incómoda es si hay compañías dispuestas a normalizar esa dependencia a sabiendas de los daños colaterales con tal de afianzar una demanda futura.
Lenguaje brillante, comprensión ausente: la ilusión cognitiva
Des dels anys sabem que una interfaz persuasiva pot provocar atribucions de mente. Eliza, el senzill programa de Joseph Weizenbaum, ja va suscitar l'any 1966 la impressió d'enteniment donde solo havia reglas formales. Hoy el efecto regresa multiplicado: los LLM despliegan coherència narrativa, citas cultes, humor i estil. La tentación de confundir maestría retórica con interioridad mental ha estat criticada per Douglas Hofstadter, que parla de “fluidez superficial”: combinacions impecables sense reflexió ni consciència darrere.
La acusación coincide con otras voces filosóficas. Luciano Floridi ha descrit una IA “sin semàntica” i Daniel Dennett ha resumit la qüestió com a “habilidades sense comprensió”. Per Thomas Nagel, la consciència implica un “cómo se siente” inaccessible des de les descripcions objectius, els anomenats qualia. Per això, encara que un LLM escriviu sobre l'amor o el meu, no sento, i cura d'un model de sí mateix amb accés conscient, com defiende Thomas Metzinger.
Sin cuerpo, sin mundo vivido: per què el text no basta
La fenomenología de Merleau-Ponty subraya que la conciencia està anclada al cos i l'acció al món. No bastant processar símbols: percebem, ens movem i habitem un entorn amb una temporalitat pròpia. Un sistema descorporeitzat no pot “viure” els seus enunciats; puede hablar de belleza o dolor, pero no los experimentos. Pretender lo contrari desposa a la consciència de les seves condicions essencials.
John Searle va reforçar aquesta crítica amb la seva famosa habitació xinesa: es pot produir la resposta “correcta” manipulant regles sintàctiques sense entendre ni una paraula. Per Searle, els computadors simulan comprensió, però tenen cura de la intencionalitat. Dreyfus, des d'una altra línia, anunci que gran part de la intel·ligència humana emerge de habilitats pràctiques situades que els algoritmos no capturan bé. Sherry Turkle llama a este fenomen la “trampa del espejo”: projectem humanitat en màquines que només ens devuelven patrons lingüístics.
Coneixement limitat i raonament causal: techos de cristall
Tot i la seva versatilitat, els LLM no “saben” del món com a les persones. Treballar amb correlacions estadísticament plausibles, sense conceptes sòlids. Tienden a resolver per coincidencia de termes, fallen quan hi ha ambigüetat contextual y se atascan en inferencias causales. Quan la pregunta exigeix “per què” i no només “qué”, es multiplican les sortides inconsistents.
A això se suma la sensibilitat a l'enunciació: mínimas variacions en el prompt poden alterar radicalment la resposta. La falta d'una “teoría” interna els vuelven fràgiles amb dilemes o paradojes, y l'absència de verificació epistèmica los empuja a sonar seguros incluso cuando están en terreno pantanoso. De ahí que la supervisió humana mar imprescindible en àmbits crítics com a medicina o dret i en la validació de dades en salut.
La paradoja de la dificultat i el problema de l'abstenció
Investigacions recents detecten una paradoja llamativa: al pujar de nivell en tarees completes, alguns models empeoran en exercicis senzills. Esa disonancia rompe les nostres expectatives i complica qualsevol “zona segura” d'ús. Igualment preocupant és que tienden a respondre inclòs quan no tenen certesa, en lloc d'optar per un “no lo sé”. Esa propensión, observada en famílies com GPT, LLaMA o BLOOM, alimenta errors de bulto que l'usuari no sempre detecta.
Es proposen dues vies: mecanismes d'abstenció explícita i redisseny de l'entrenament per distingir millor entre la complexitat humana i la dificultat computacional. Aun així, la sensibilitat al prompt persisteix inclòs en models recents (s'esmenten noves iteracions com o1 i Claude), per lo que la supervisió i el disseny centrat en seguretat segueixen sent claus.
Sesgos que vienen de fábrica: medición, mitigació i límits
Formats amb enormes corpus, els LLM heredan estereotipos presenta en el lenguaje. Això es traduirà en associacions negatives cap a la discapacitat o sesgos de gènere en nombres proposats per a diferents rols. Si s'empren per decidir o filtrar informació, aquests sesgos corren el risc de institucionalitzarse sota la aparença de neutralitat tècnica.
Medir y corregir sesgos no és trivial. No hi ha un referent universal sobre què constitueix sesgo, la sensibilitat social evoluciona i les manifestacions son sutiles i contextuals. Equips especialitzats treballen en mètriques que capturen diferents ejes sociolingüísticos, i en actuar al llarg de tot el cicle del model: dades, representacions internes i despliegue. Iniciatives d'inclusió (com les defendides per organitzacions de persones amb discapacitat) i marcs com els principis de l'OCDE ajuden, però no substituyen l'auditoria continua.
Trampas morals i disseny d'interfícies: quan delegar tienta
Una línia de treball experimental mostra que la IA pot rebaixar la nostra sensació de responsabilitat. En estudios con incentivos monetarios (como tirar un dado cuyo resultado solo ve el participante), delegar en un agente incrementó les trampas. Si la interfície permetia metas difuses tipus “maximiza ganancias”, la deshonestidad es disparó frente a instrucciones explícitas como “maximiza precisió”. La ambigüedad ofereix coartades psicològiques: l'usuari pot “esconderse tras el algoritmo”.
Els autors recomanen disseny responsable para encoger esa “distancia moral”. Los guardarraíles genéricos no bastan: les salvaguardes han de ser específiques de tarea. Avisos molt clars que prohíben expressament “hacer trampas” funcionaron millor, però no escalen a tots els casos. A mesura que lleguen agents més autònoms, aquestes decisions de disseny deixaran de ser un detall per convertir-se en el cor de l'ètica aplicada.
Creencias versus verdad: lo que los modelos no distinguen bien
Una altra investigació va avaluar a 24 models amb un banc de proves epistémiques (KABLE) de 13 000 preguntes per a diferenciar creencias, coneixement i fets. El resultat ha estat contundent: fallos sistemáticos al detectar falses creences en primera persona. S'observen caigudes marcades, per exemple de l'entorn del 98% a poc més del 64% en un cas, i més del 90% a xifres properes al 14% en un altre, quan la tarea exigia reconeix que “yo creo X” no equival a “X és veritable”.
Els experts alerten sobre això miopia epistèmica té efectes pràctics: en teràpia, periodisme o assessoria legal, corregir les dades abans de reconèixer l'estat mental de l'interlocutor pot empeorar la interacció. Es proposa una guia d'ús que priorice “escuchar abans que educar”: primer validar la creència o intenció, després contrastar fets. Y, per suposat, entrenar models més cautelosos que no confundan “sonar segur” amb “estar en lo cierto”.
De asistentes pasivos a agentes: el giro que ya va començar
La forma d'usar aquests sistemes també està canviant. Amb propostes tipus Recerca profunda, un LLM planifica, busca, contrasta i corregeix en múltiples passos, actuant com agent autònom en vez de simple contestador. Grans actors (com Google/DeepMind amb prototips en la mateixa línia) van avançar ràpid en aquesta direcció. A efectes pràctics, sembla un equip d'assistents treballant en segon pla.
Això obre oportunitats i riscos. Oportunitats: investigació complexa (revisions de mercat, docenas de documents legals), automatització de decisions (agenda, finances) i creativitat assistida (campanyes de màrqueting end-to-end). Riesgos: si el acceso premium se encarece, se agudiza la segmentació entre quienes poden pagar i quienes no, reforçant la dependència de quiens basaron la seva rutina laboral o acadèmica en aquests sistemes.
Dades massives: cost, privacitat i concentració de poder
Formar un LLM exigent volums descomunales de dades: adquirirlos, limpiarlos i processar-los costa diners i temps, i dependrà de sistemes d'emmagatzematge de dades.Això aixeca barreres i nous actors e impulsa una concentració de capacitats en poques empreses. A més, aflora el problema de la privacitat: anonimitzar, protegir i actualitzar els conjunts de dades en un món que canvia un diari és un reto logístic i legal de primera magnitud.
S'exploren com a pal·liatius transferència d’aprenentatge i tècniques d'entrenament més eficients per reduir la dependència de dades. Aun així, la necessitat d'informació actualitzada persisteix, especialment en dominis que evolucionaran ràpid (salud, regulación, mercados). No hi ha atajo: la gobernanza de dades és tan estratègica com el propi model.
Cost computacional y sostenibilidad: la cara B del escalado
El despliegue y la inferencia de LLM de última generación demandan GPU/TPU i centres de dades energívors. La factura eléctrica i la huella ambiental no són anècdotes. Llevar aquests models a dispositius mòbils o embebidos choca amb límits de memòria, latència i consum.
Hay avances en maquinari especialitzat i optimitzacions (cuantización, poda, runtimes eficients), però la tensió entre potència i sostenibilitat segueix en el centre. Per molts projectes, els costos operatius son disuasoris, el que alimenta la dependència de proveïdors cloud dominants i cierra el cercle de concentració.
Contenido falso que suena perfecto: la máquina de la desinformación
Amb la seva prosa impecable, els LLM poden generar textos convincents pero errats. La detecció automàtica del “sintètic” davant de l'humà es complica cada mes, y la verosimilitud textual otorga a la desinformación un barniz de autoridad peligrosa. La difusió viral resulta més fàcil quan la IA amplifica errors o sesgos ya presenta.
La resposta combina tècniques de detecció, disseny de plataformes responsable y alfabetització mediàtica del públic. No hi ha bala de plata, però verificar fonts i promoure cautela son hàbits imprescindibles. Les mesures preventives integrades als models ajudan, encara que no substituyen la revisió humana en àmbits d'alt impacte.
Què fem amb tot això? Pistes, sense dogmes
Una fulla de ruta madura passa per diverses capes: mecàniques de rebuig quan el sistema no està segur; avaluacions epistèmiques que distingan creencias y hechos; auditories de sesgo que abarquen dades, arquitectura i despliegue; dissenys d'interfície que reduzcan la distància moral i eviten fomentar atajos tramposos; i, sobre tot, supervisió humana amb criteris clars allí donde hay riesgos serios.
També convé reencuadrar expectatives: aquests models son excel·lents escribiendo, no entendiendo. El seu valor pràctic es dispara quan es integra en sistemes que validan, contrasten i limitan la seva ràdio d'acció. Y a medio plazo, si el sector consolida precios altos, habrá que debatir l'accés equitatiu per a la dependència no exclou a quienes més podrian beneficiarse.
Mirando el panorama al complet —ilusions de comprensión, sesgos heredados, tentaciones de delegar la ética, límites epistémicos y costes ocultos— els LLM resulten tan útils com delicats. Tomados amb cautela, poden ser aliats formidables; convertits en muleta per a tot, acaban modelant hàbits, expectatives i decisions de maneres que quizá no elegiríem si las viéramos venir. La diferència entre eina i dependència, al final, no la marca el model, la marca cómo lo diseñamos, regulamos y usamos.
