En un momento de deslumbramiento bobo y adulación permanente ante las supuestas bondades mágicas de la Inteligencia Artificial, es muy de agradecer que haya voces críticas con fundamento y bien argumentadas. Ante el delirio y la entrega incondicional a una tecnología que además parece exigir una ausencia total de regulación y de debate, resulta imprescindible que haya quien cuestione no la IA en su conjunto, desde luego, ni sus indudables aportaciones positivas, pero sí la forma en la que se está desarrollando, el poder gigantesco de unas pocas empresas y la falta absoluta de control o regulación por parte de los Estados.
Por todo ello, es muy recomendable el ensayo Frenar a Silicon Valley. Cómo las Big Tech se aprovechan de nosotros y cómo la Inteligencia Artificial puede empeorarlo, de Gary Marcus, editado por Shackleton Book, con traducción de Marc Figueras. Basta leer ese subtítulo y el texto de la contraportada para constatar que el autor es una voz muy crítica con el desarrollo actual de la IA.
Los entusiastas de esta tecnología tendrán siempre ante libros así la tentación de presentar a su autor como una especie de ludita, un apocalíptico sin fundamento. Pero con Marcus lo tendrán complicado para hacerlo encajar en esa caricatura, porque él trabaja con la IA a diario, es un experto que aprendió a programar con ocho años y cuya tesis doctoral fue sobre la red neuronal, el antepasado de la IA generativa. Además, creó una exitosa empresa de IA, Geometric Intelligence, que le compró Uber. Sabe de lo que habla, en definitiva. Y no reniega en absoluto de la IA, no hace una enmienda a la totalidad, sino que, precisamente porque ama la IA, desea desesperadamente que triunfe, pero no con el rumbo que está tomando.
“La inteligencia artificial ha sido buena para mí y quiero que lo sea para todo el mundo”, afirma. No duda en señalar que la IA puede revolucionar la ciencia y la medicina, cree que todavía es posible que sea un elemento transformador positivo si se desarrolla bien, pero no cree que eso sea lo que ha pasado hasta ahora. Considera que se han tomado atajos y tenemos una tecnología prematura, sobrevalorada y problemática. No ataca a la IA, sino a quienes han antepuesto su enriquecimiento personal al interés general y a quienes no regulan.
El libro incluye una precisa reflexión de Michael Stryker, que afirma que “la palabra IA se esparce como un polvillo mágico sobre cualquier cosa que alguien quiera defender y hace que todo parezca moderno y poderoso”. Tal cual. A diario me sorprende el extraño deslumbramiento y la obsesión por la IA, esa unanimidad en torno a sus ventajas y a sus promesas de un futuro glorioso, sin pensar nunca en sus defectos, sin hacer preguntas ni cuestionar sus errores y peligros. Entre otras muchas cosas, el autor argumenta contra el seguidismo de la “narrativa exagerada y a menudo mesiánica de Silicon Valley”. Pone varios ejemplos de la propaganda muy bien creada por parte de las empresas tecnológicas y digerida sin rechistar por gran parte población.
El autor considera que la IA, tal y como se entiende ahora, trae consigo muchos riesgos. “Aumentarán los desequilibrios de poder, donde los líderes tecnológicos no electos controlarán amplísimos aspectos de nuestras vidas; las elecciones justas e imparciales podrían convertirse en algo del pasado; la desinformación automatizada podría destruir lo que queda de la democracia; los sutiles sesgos que están integrados en chatbox controlados por unos pocos individuos selectos moldearán las opiniones de la mayoría”, afirma. Además, considera que la IA puede ampliar masivamente la desinformación, la manipulación de los mercados, la intoxicación de los contenidos de Internet ya sea de forma voluntaria o accidental, la difamación, los deepfakes, la aceleración del crimen organizado, los sesgos discriminatorios o el gigantesco impacto medioambiental.
En su opinión, el gran error en el desarrollo de la IA es que se está centrando casi en exclusiva en la IA generativa, que es sólo una parte de la IA, la más vistosa y la que más enriquece, a menudo más con promesas que con resultados tangibles, a unas pocas empresas, hasta el punto de que nos encaminamos hacia una especie de oligarquía de la IA con demasiado poder. El punto de inflexión fue el lanzamiento de ChatGPT en noviembre de 2022 y su repentina popularidad.
Resulta que la IA generativa es la que está más de moda y es justo a la que el autor considera que no debemos tender. Se explaya mostrando multitud de fallos. Habla de su escasa fiabilidad y recoge también declaraciones de expertos como Bill Gates o Yann Le Cun, de Meta, que reconocen cada vez más probable que lleguemos a un estancamiento. Habla de monocultivo intelectual, que considera un error, y llama a encontrar un enfoque que integre la IA generativa con la IA simbólica, que se parece más al álgebra, la lógica y la programación informática clásica.
Es muy ilustrativo la anécdota del efecto farola con la que describe el excesivo foco en la IA generativa, que deja de lado otras aplicaciones de la IA más fiables. En esa anécdota, un borracho busca unas llaves en un aparcamiento y un policía que le ayuda, sin éxito, en su búsqueda, le pregunta si está seguro que las perdió ahí. El buen hombre responde que no, pero que las está buscando ahí porque hay mejor luz. La gente tiene a buscar dónde es más fácil hacerlo, explica el autor, y ahora mismo todo el mundo se está centrando en la IA generativa, lo cual considera un error.
La parte del libro dedicada a las leyes, muy centrada en la normativa de EEUU, se hace un poco densa, pero la idea clara que defiende es que es necesaria una regulación sobre la IA. También defiende la creación de una agencia específica en EEEU y algún tipo de gobernanta mundial. Otra de sus propuestas es el establecimiento de una renta básica universal, por los efectos adversos sobre el empleo que tendrá la IA. En cualquier caso, más allá de lo optimista que uno pueda ser o de lo realistas que resulten sus propuestas, se agradece encontrar, para variar, voces que argumentan con solidez sobre los riesgos de la IA, esa que casi todo el mundo ensalza permanentemente sin el menor espíritu crítico, mientras unos pocos se hacen millonarios.
Comentarios