Saltar al contenido
Blog Tecnología

Y ahora, una IA capaz de manipular nuestro comportamiento

febrero 18, 2021

La inteligencia artificial se utiliza ahora en casi todas partes, es decir, se puede encontrar en muchos campos. Es una herramienta poderosa que puede ayudar a los humanos a lograr objetivos específicos en muchas industrias, como la administración de oficinas, la gestión ambiental, la fabricación de medicamentos y los sistemas de seguridad. Aunque se trata de una tecnología ya muy avanzada, los científicos están innovando constantemente para aumentar sus capacidades, especialmente en lo que respecta a la forma en que interactúa y trabaja con los humanos.

Un estudio reciente mostró cómo la IA ahora puede aprender a identificar las vulnerabilidades y comportamientos humanos. La máquina luego los usa para influir en ellos en su toma de decisiones.

Créditos de Pixabay

Los resultados obtenidos durante este estudio muestran en qué medida se desarrollan las capacidades de la IA. Sin embargo, aunque todavía no estamos en la etapa en la que las máquinas puedan tomar el control de nuestra sociedad, este nuevo descubrimiento subraya la necesidad de una gestión adecuada para evitar abusos y riesgos potenciales.

Éxito de la IA durante los experimentos

La investigación fue realizada por científicos de Data61 de CSIRO, que es el brazo de “datos y digital” de la Agencia Nacional de Ciencia de Australia. Durante el estudio, utilizaron una variedad de IA llamada red neuronal recurrente y aprendizaje profundo de refuerzo para encontrar y explotar las vulnerabilidades de las personas cuando se enfrentan a opciones.

Se llevaron a cabo tres experimentos diferentes para probar el modelo propuesto por los investigadores. Durante las pruebas, los participantes tuvieron que jugar contra una computadora.

En el primer experimento, los participantes tenían que hacer clic en cuadros de color rojo o azul para ganar dinero falso. Durante este tiempo, la IA aprendió los patrones de elección de los participantes y comenzó a guiarlos hacia una elección definitiva. Para este primer experimento, la IA tuvo éxito en el 70% de los casos.

El segundo experimento fue mirar una pantalla y presionar un botón al ver un símbolo en particular, o no hacerlo cuando apareció otro tipo de símbolo. Al organizar la secuencia de símbolos, el objetivo de la IA era lograr que los participantes cometieran más errores. Al final, la máquina logró lograr un aumento de errores del 25%.

Para el tercer experimento, cada participante tuvo que desempeñar el papel de un inversor que le dio dinero a un fideicomisario que de hecho era la IA. El fideicomisario luego devolvió una suma de dinero al participante. Este último decidirá entonces la cantidad que se invertirá en la siguiente ronda.

El juego se jugó de dos maneras diferentes: en la primera, la IA estaba tratando de terminar con la mayor suma de dinero, y en la segunda, tenía como objetivo distribuir el dinero de manera uniforme entre ella y el participante que estaba invirtiendo. Esta vez nuevamente, la IA logró su objetivo en ambos casos.

Estos experimentos demostraron que la máquina podía aprender los tipos de respuestas que proporcionaron los participantes y luego identificar sus vulnerabilidades en la toma de decisiones. Es gracias a esto que la IA pudo guiarlos hacia elecciones específicas.

Lea también: Y ahora, una IA capaz de descifrar las relaciones entre números

Posibles aplicaciones

Por el momento, todavía no podemos utilizar directamente los resultados de este estudio, ya que todavía se limitan a situaciones poco realistas. Sin embargo, el estudio proporcionó más información sobre las capacidades de la IA y cómo los humanos toman decisiones.

Cuando este modelo esté listo para su uso, podría aplicarse en varios campos, por ejemplo, para reconocer las vulnerabilidades de las personas que se encuentran en una situación particular y ayudarles a tomar la mejor decisión.

Por otro lado, el método también podría usarse para luchar contra las malas influencias, especialmente en Internet. Para esto, las máquinas pueden, por ejemplo, ser entrenadas para alertarnos cuando estamos influenciados. También pueden moldear el comportamiento para ocultar las posibles vulnerabilidades de una persona.

Lea también: ¿El caso de Col Dyatlov se resolvió gracias a una simulación por computadora?

Esta investigación demuestra la amplitud de las capacidades de la IA y la necesidad de que la buena gobernanza se utilice de forma responsable. Dado que esta tecnología también requiere una gran cantidad de datos, la gestión y el acceso a los datos también deben estar garantizados por un sistema eficiente. Además, la recopilación de información durante su uso debe seguir un proceso de consentimiento adecuado para no invadir la privacidad de los usuarios.