De la “màquina lógica” a la proclama per la incertesa

Des de la “màquina lògica” de Simon i Newell (1956) fins avui, la percepció sobre la idea d’equiparar les màquines al cervell humà no ha deixat de desplegar-se. I des de finals de 2021, d’ençà de l’aplicació Playground d’OpenAI, hem passat a considerar les IA ja de forma massiva com eines revolucionàries amb capacitat per condicionar el futur. Però una tecnologia que alhora pot invalidar la percepció humana als nivells a què apunta, requereix una reflexió pausada.

Ja s’ha dit moltes vegades: falta digestió i cal una regulació a mida i actualitzada a mesura que es va desenvolupant, alhora que és necessari anar destriant el gra de la palla. Urgeix, doncs, localitzar veus que, d’entre el soroll que s’ha desfermat, permetin analitzar les anomenades intel·ligències artificials de maneres diverses per entendre’n totes les seves dimensions i transcendència social.

Nomenclatura específica i mites de la IA

L’artista Mònica Rikić se centra des de fa alguns anys en el desenvolupament de robots i fins a finals de juny va tenir l’exposició Hipertèlia a La Capella. Hipertèlia vol dir pèrdua de funcionalitat pel desenvolupament excessiu d’un òrgan. I la proposta era reflexionar sobre les característiques que haurien de tenir les IA per ser considerades organismes existents i sensibles a través d’una sèrie d’instal·lacions robòtiques.

Rikić considera que la intel·ligència és una atribució errònia atorgada a les màquines, i alhora apunta al fet que adjectivar-la d’”artificial” genera pors innecessàries. La seva proposta és, doncs, reanomenar les IA com a “sistemes cognitius -de vegades- reactius, amb capacitat variable d’acumulació d’aprenentatge”. No és una nomenclatura breu, però és molt específica i respon a la necessitat de ser rigoroses.

Tot plegat, guarda relació amb el seu interès i investigació sobre els mites que s’han anat construint en l’imaginari de les màquines i de les IA. Un dels tants, ho vèiem a l’article sobre vubbing, és l’atribució d’una autonomia maquínica tal que podria ser capaç de substituir la sensibilitat humana i la creativitat. En l’exposició de La Capella, Rikić hi suggereix, així, que tan sols seria possible parlar d’algun tipus de creativitat maquínica després d’un procés d’autonomia de la seva funció productiva. Una de les peces ho exemplifica bé: un ordinador que programa codi font aleatori en directe i el resultat del qual pot ser llegit com una sort de poesia computacional.

El gir simbòlic continua sent humà

Aquesta proposta en concret recorda l’exercici que Agrupación Señor Serrano ha estrenat recentment al Grec: “Una isla”. En aquesta ocasió, la companyia de teatre postdramàtic mostra el resultat d’un diàleg establert durant mesos amb un sistema cognitiu artificial basat en el processament de llenguatge natural. I aquella conversa humà-màquina s’encarna en una peça performativa que aterra l’imaginari que la IA va proposar per la definició d’una illa. La manera com la companyia canalitza la conversa cap a la metàfora del nostre planeta, exhaust, col·lapsat i en crisi, deixa entreveure que si bé els retorns que la IA realitza en el diàleg poden semblar més que creatius i originals, el gir simbòlic ve atorgat per connexions neuronals provinents de cervells humans.

Entendre l’error com una proposició

El col·lectiu artístic Estampa també ha explorat àmpliament les IA. Ja al 2018 van fer públic el seu projecte El mal alumne. Pedagogia crítica per a intel·ligències artificials, on jugaven de formes diverses a confrontar els errors de YOLO9000, una xarxa neuronal entrenada amb una base de dades de 9.418 paraules i milions d’imatges. La proposta consistia a provocar/destapar errors, que calia llegir com a proposicions i oportunitats per qüestionar la mateixa eina i alhora fer-la evident com a tal. El resultat de les seves investigacions pot veure’s, per exemple, en l’anàlisi d'El jardí de les delícies a través del sistema de detecció d’objectes amb caixes delimitants (bounding boxes) on, de forma interactiva, les caixes van emergent amb titulars del tot inesperats en molts casos.

I és que aquest col·lectiu ha analitzat en profunditat el funcionament d’aquestes IA durant els darrers anys i n’ha desvetllat diverses qüestions clau. Una d’elles seria el fet que entrenar una xarxa neuronal és un procés lent que de vegades triga setmanes, i que respon a temporalitats més pròpies del món analògic. Així destapa quelcom que acompanya bona part del món tecnològic actual: el desconeixement sobre una sèrie de processos invisibles, que són imprescindibles pel funcionament després immediat dels dispositius i les aplicacions.

Daniel Pitarch, membre del col·lectiu, comparteix també una altra qüestió important que ja l’artista Hito Steyerl esmentava a Arte Duty Free. El arte en la era de la guerra civil planetaria (editorial Caja Negra, 2018): hi ha tota una cultura visual que només serà visible entre màquines, que obliga a plantejar-se sobre la mateixa producció d’imatges, i sobre el nivell de manipulació d’aquestes. Si son les màquines les que duen aquesta tasca, i en alguns casos ho fan per altres màquines (de forma de vegades il·legible per l’ésser humà), ens hauríem de preguntar sobre l’impacte que pot tenir sobre els nostres imaginaris. I tot plegat atenent també al fet que per “controlar” els processos màquina-màquina hi sol haver treballs mecànics fets per éssers humans, com les microtasques vinculades a la censura d’imatges violentes, pornogràfiques, pedòfiles o “prohibides” -com els mugrons- a les xarxes socials.

Així que, per destapar aquestes realitats invisibles, Estampa proposa mostrar l’eina que les fa existir, i ho fa de manera poètica, reivindicant “una intel·ligència artificial no mimètica que provoqui relacions i imatges inesperades” per confrontar l’aspiració a una “intel·ligència artificial que repliqui la dels humans a escales inhumanes”.

Màquines per la incertesa

En darrer lloc, i amb un enfocament no massa allunyat al d’Estampa, se situa la proposta en construcció de Domestic Data Streamers quan conviden a crear un tipus d’eines que deixin espai per la incertesa. Per fer-ho, parteixen de la crítica a les respostes fixades que donen IA com ChatGPT, Alexa o Bard, i que poden ser llegides com una veu universal, en la mesura en què generen un miratge de resposta única per cada qüestió, basant-se en estadístiques d’ús que malauradament funcionen com a veritats absolutes. D’aquí neix la reflexió sobre la necessitat d’un tipus d’eines que puguin més aviat fomentar el qüestionament sobre les nostres accions, incentivar la incertesa com a espai per l’error i l’experimentació necessaris. El perill de les univocitats ja l’hem experimentat en el passat i Pau Garcia, codirector de DDS es pregunta qui decideix la veu que respon a Alexa? Quins valors hi ha al darrere de Barg? A qui dona visibilitat ChatGPT?

Així doncs, la seva és una proclama maquínica que busca l’espai per la reconsideració. I ho fa amb la plena consciència que la proposta és l’antítesi de la comoditat, no atenua les ansietats del nostre món precari, però reivindica la possibilitat de no tenir certeses i romandre oberts al fet inestable.

Autora: Clara Laguillo