Brian Christian: ¿Cómo sabemos si la IA es consciente?

La fantasía de ciencia ficción de la conciencia de las máquinas parece avanzar hacia la realidad.

Pero, ¿qué significará para los humanos si la tecnología de inteligencia artificial se hace realidad? ¿Y cómo lo sabemos?

El informático Brian Christian reflexiona sobre estas complejas cuestiones con Kim Hill.

Por Brian Christian Problema de alineación, métodos de supervivencia. (con Tom Griffiths), y un ser muy humano. el es parte de esto Grupo de trabajo sobre políticas y gobernanza de la IA en el Instituto de Estudios Avanzados.

El informático Brian Christian
Foto: proporcionó

En 2021, el ingeniero de Google, Blake Lemoine, fue despedido después de comunicarse a través de un chatbot llamado LaMDA, alegando que el sistema era sensible.

Brian Christian dice que la opinión de Kim Hill es que la evidencia no es lo suficientemente convincente para respaldar la afirmación de Lemoine.

«Estaba haciendo estas preguntas introspectivas sobre qué es la experiencia Lambda, cómo es ser un chatbot, etc…. y lo que obtuvo fue coherente y eficiente, y terminó tomando una decisión. [it was sentient]».

«Él era un creyente, entonces su actitud fue, si yo dijera que era esta experiencia interior, ¿quién soy yo para decirle a Dios dónde puede y no puede poner Dios un alma? Entonces le dio el beneficio de la duda. «

«Creo que es un tipo que confía en sus instintos, confía en ese instinto… Creo que hay alguien o algo al otro lado de esa conversación. Así que no creo que haya cambiado realmente para él».

Este mes, un grupo de informáticos, neurocientíficos y filósofos publicó un artículo de debate. La conciencia en la inteligencia artificialEstablece 14 criterios que pueden representar la conciencia.

Este «documento notable» ya está comenzando a causar sensación en los círculos de filosofía, neurociencia e informática, y está uniendo a estas comunidades dispares de una nueva manera, dice Christian.

«¿Qué significa tener mente? ¿Existe toda una literatura filosófica sobre cuáles son los atributos clave de la conciencia?

«Hay literatura de neurociencia que dice: ¿podemos realmente encontrar las estructuras dentro del cerebro que dan lugar a esas experiencias conscientes? ¿Están en la parte frontal del cerebro? ¿Están en la parte posterior del cerebro?

«Ahora contamos cada vez más con sistemas computacionales, en muchos casos modelados explícitamente a partir de algún aspecto de la neurociencia humana».

Dice que ahora podemos empezar a examinar si la IA tiene las propiedades necesarias que sospechamos que inducirán la conciencia.

«Creo que estamos en el comienzo, pero me parece que esta es realmente una de las preguntas más importantes. Y creo que estos campos ahora están empezando a hablar entre sí de una manera mucho más profunda.

«Podemos llamarlo un específico [AI] El sistema es conciencia, incluso si no sabemos qué teoría de la conciencia es correcta.»

Los filósofos que se remontan a Aristóteles han abordado la cuestión de qué hace que los seres humanos sean especiales y únicos, dice Christian.

«Aristóteles estaba muy centrado en hacer que la experiencia humana fuera muy importante… Desde mi perspectiva, desde una perspectiva del siglo XXI, fue muy rápido en escribir sobre las experiencias de otros mamíferos, etc. Así que sí, hay una especie de auto- centralidad.»

Dice que hasta el movimiento por los derechos de los animales de la década de 1970, en particular el trabajo del filósofo moral australiano Peter Singer, los filósofos a menudo «escribían» la compleja vida interior de los animales en su comprensión de la conciencia.

«Es algo en lo que los filósofos se han equivocado durante aproximadamente dos milenios y medio, y recién ahora estamos acercándonos a ello».

Foto: proporcionó

Para los humanos, la conciencia está asociada con la capacidad de pensar racionalmente, pero la óptica se refiere a la experiencia y la imaginación, dice Christian.

«La expansión de ese tipo de sistemas visuales está empezando a sugerir… está empezando a eliminar algunas de las barreras, al menos, para hacer que estos sistemas sean conscientes».

Hasta ahora, el mayor avance en IA han sido los modelos de lenguaje que pueden realizar tareas textuales.

Christian cree que antes de que veamos robots superinteligentes, podemos limpiar casas y brindar compañía de una manera «sofisticada».

«Hay muchos estudiantes de doctorado, algunos emprendedores intentan hacerlo y ha habido un aumento increíble en la cantidad de capital de riesgo destinado a empresas de IA. Así que creo que la gente está… básicamente Tirando todo contra la pared y tratando de ver qué se pega».

Predice que el próximo desarrollo será una «forma de agencia» integrada en el escritorio, donde uno podrá navegar por la web mirando lo que hay en la pantalla de su computadora y haciendo clic en los botones.

«Es una forma de software de muy bajo nivel, pero está empezando a tener los primeros elementos de agencia. Puede tomar una información perceptiva y luego tomar una acción».

Si bien muchos de los sistemas de inteligencia artificial actuales cumplen uno o más requisitos para la conciencia, ninguno los cumple todos todavía, afirma.

«Básicamente, puedes imaginarte añadiendo diferentes capacidades, cierto, así que puedes tomar un modelo de lenguaje que parece tener una cierta cantidad de capacidad de procesamiento de información y darle un sentido visual, por así decirlo.

«O podrías imaginar ponerlo dentro de algún tipo de cuerpo físico, en lugar de ejecutarlo en un centro de datos. Podrías poner una copia de GPT-4 en un robot. Podrías darle a ese cuerpo la capacidad de moverse.

«Ahora estamos hablando del punto de referencia de la agencia. Entonces, en este momento, no hay ninguna razón comercial para hacerlo. Pero ciertamente está dentro de las capacidades que tenemos en este momento desde un punto de vista de ingeniería».

Christian sugiere que puede ser «una lección de humildad en el buen sentido» para los humanos compartir el mundo con otra entidad consciente que es completamente ajena a nosotros mismos.

«Creo que podría cambiar fundamentalmente nuestra posición en el universo, y podría ser bueno, suponiendo que no ganemos ni perdamos el control de la civilización… Podría ser algo bueno, pero es doloroso».

Las implicaciones éticas y de seguridad de la inteligencia artificial son «muy relevantes» para los cristianos, dice, y el mero ritmo del progreso «ciertamente causa ansiedad».

«Ahora existe una brecha real entre el sentimiento compartido que muchos de nosotros tenemos de que necesitamos regular esta tecnología y la ambigüedad general que muchos de nosotros tenemos sobre qué tipo de regulación debería haber».

Dada la falta de capacidad institucional para auditar los sistemas de IA, afirma, es hora de que el gobierno estadounidense fomente la creación de un departamento de auditoría.

«A mediano plazo, se comenzará a crear esencialmente un departamento que audite los sistemas de inteligencia artificial. Y esa es una de las muchas cosas que necesitamos. Creo que eso es lo que me mantiene despierto. Un poco de ruido por la noche».