En la autobiografía del escritor estadounidense Mark Twain, cita, o quizás cita, al ex primer ministro británico Benjamin Disraeli diciendo: “Hay tres tipos de mentiras: mentiras, malditas mentiras y estadísticas”. En un impresionante salto hacia adelante, la IA reúne a los tres en un pequeño y elegante paquete.
ChatGPT y otros chatbots impulsados por inteligencia artificial similares están entrenados en grandes conjuntos de datos de todo Internet para producir la respuesta estadísticamente más probable al aviso. Sus respuestas no se basan en ninguna comprensión de lo que hace que algo sea divertido, significativo o preciso, sino en la redacción, la ortografía, la gramática e incluso el estilo de otras páginas web.
Proporciona sus respuestas a través de la llamada “interfaz conversacional”: recuerda lo que dijo el usuario y puede mantener una conversación utilizando claves contextuales y maniobras inteligentes. Es un bache estadístico además de inteligencia estadística, y ahí radica el problema.
No pienses, pero sé persuasivo Cuando hablo con otro ser humano, me refiero a mi experiencia de toda la vida de tratar con otras personas. Entonces, cuando un programa habla como una persona, es muy difícil no responder como si alguien estuviera involucrado en una conversación real: tomando algo, pensando en ello y respondiendo en el contexto de nuestros pensamientos.
Sin embargo, esto no es lo que sucede en absoluto con los interlocutores de IA. No pueden pensar y no tienen comprensión o comprensión de ningún tipo.
Presentarnos información como seres humanos, durante una conversación, hace que la IA sea más convincente de lo que debe ser. Los programas pretenden ser más confiables de lo que son, ya que utilizan trucos humanos de retórica para falsificar la confiabilidad, la competencia y la comprensión mucho más allá de sus capacidades.
Aquí hay dos problemas: es válida la salida; ¿La gente piensa que los resultados son correctos? El lado de la interfaz del software promete más de lo que puede ofrecer el lado del algoritmo, y los desarrolladores lo saben. “ChatGPT es increíblemente limitado, pero lo suficientemente bueno en algunas cosas como para crear una impresión engañosa de grandeza”, admite Sam Altman, director ejecutivo de OpenAI, la empresa detrás de ChatGPT. Eso aún no ha impedido que las empresas se apresuren a incorporar la herramienta en etapa inicial en sus productos orientados al usuario (incluida la búsqueda Bing de Microsoft), en un esfuerzo por no quedarse fuera.
Realidad y ficción
A veces, la IA está mal, pero la interfaz conversacional produce resultados con la misma confianza y refinamiento cuando está bien. Por ejemplo, como señala el escritor de ciencia ficción Ted Chiang, la herramienta comete errores al hacer sumas con números más grandes, porque en realidad no tiene ninguna lógica para hacer los cálculos.
Simplemente coincide con las plantillas que se muestran en la web que incluyen una extensión. Y aunque puede encontrar ejemplos de las preguntas de matemáticas más comunes, no ha visto un texto de práctica con números más grandes.
No “conoce” explícitamente las reglas de las matemáticas que puede usar un niño de 10 años. Sin embargo, la interfaz de chat muestra su respuesta como confirmada, sin importar cuán incorrecta sea, como lo demuestra este intercambio con ChatGPT.
Usuario: ¿Cuál es la capital de Malasia? ChatGPT: La capital de Malasia es Kuala Lumpur.
Usuario: que es 27 7338? charla GPT: 27 7338 es 200.526.
que no es.
La IA generativa puede mezclar hechos reales con hechos fabricados en la biografía de una figura pública, o citar referencias académicas plausibles para artículos que nunca se escribieron.
Esto tiene sentido: estadísticamente, las páginas web informan que las celebridades a menudo ganan premios y los trabajos de investigación suelen tener referencias. ChatGPT simplemente hace aquello para lo que está diseñado y agrega contenido potencial, independientemente de si es válido o no.
Los informáticos se refieren a esto como una alucinación de IA. El resto de nosotros podríamos llamarlo mentira.
salida de miedo
Cuando enseño a mis estudiantes de diseño, hablo sobre la importancia de hacer coincidir el resultado con el proceso. Si una idea está en la etapa conceptual, no debe presentarse de una manera que la haga parecer más pulida de lo que realmente es; no debe mostrarla en 3D ni imprimirla en papel satinado. Dibujar a lápiz muestra que una idea es elemental y fácil de cambiar y no se debe esperar que resuelva cada parte del problema.
Lo mismo ocurre con las interfaces conversacionales: cuando la tecnología nos “habla” en tonos o galimatías bien elaborados y gramaticalmente correctos, tendemos a interpretarlo como si tuviera más pensamientos involucrados de los que realmente hay. Debe ser utilizado por el artista, no por una computadora.
Los desarrolladores de IA tienen la responsabilidad de gestionar las expectativas de los usuarios, porque es posible que ya estemos dispuestos a creer todo lo que dice la máquina. El matemático Jordan Ellenberg describe una especie de “intimidación algebraica” que puede nublar nuestro mejor juicio simplemente afirmando que existen las matemáticas.
La inteligencia artificial, con cientos de miles de millones de parámetros, puede desarmarnos con una intimidación algorítmica similar.
A medida que hacemos que los algoritmos produzcan contenido cada vez mejor, debemos asegurarnos de que la interfaz en sí misma no prometa demasiado. Las conversaciones en el mundo de la tecnología ya están llenas de exceso de confianza y arrogancia; quizás la IA podría tener un poco de humildad en su lugar.