Empresas que tratan a la inteligencia artificial como empleados detectan menos errores en su trabajo
Un estudio realizado por investigadores de la Universidad de Boston y Boston Consulting Group reveló que los gerentes revisan con menos rigor los documentos producidos por agentes de inteligencia artificial cuando estos son tratados como empleados formales de la empresa, lo que resulta en que pasen por alto errores que sí detectan cuando creen que el trabajo fue realizado por humanos.
Emma Wiles, profesora de la Universidad de Boston que estudia cómo la inteligencia artificial afecta a los trabajadores, descubrió este fenómeno en octubre durante una conferencia donde dos ejecutivos de recursos humanos afirmaron que tratar a los agentes de inteligencia artificial como empleados reales era una forma de aumentar la productividad y colocar a sus compañías a la vanguardia, según reportó The New York Times.
Durante el último año o dos, las empresas han comenzado a utilizar los llamados agentes de inteligencia artificial como empleados de pleno derecho, incluso incluyéndolos en sus organigramas organizacionales, según la investigación.
Cuando Wiles y tres colaboradores de Boston Consulting Group investigaron más a fondo, descubrieron un problema significativo. En un experimento que involucró a docenas de empresas con empleados de inteligencia artificial, los investigadores encontraron que los gerentes tendían a revisar los documentos con menos cuidado cuando se les informaba que un empleado de inteligencia artificial los había producido. Los gerentes pasaron por alto errores que otros gerentes sí detectaron cuando se les dijo que estaban revisando el trabajo de un humano, según los hallazgos del estudio.
Wiles especuló que los gerentes no consideraban que detectar errores cometidos por empleados de inteligencia artificial fuera su responsabilidad. Si algo salía mal, podían descartarlo como culpa del equipo tecnológico o de los ejecutivos que querían empleados de inteligencia artificial en primer lugar. "Pero no es tu problema", dijo la investigadora, canalizando la mentalidad de los gerentes sobre sus propios roles.
En los años transcurridos desde que la inteligencia artificial irrumpió en escena, muchas empresas se han vuelto conscientes de las fallas producidas por la tecnología y, en ocasiones, han tomado medidas para compensarlas, según el reporte. Las compañías saben que los modelos de inteligencia artificial pueden estar sesgados contra ciertos grupos de personas, como las personas no blancas. Saben que los chatbots pueden proporcionar respuestas confiadas pero incorrectas a las consultas. Saben que los bots a veces revelan información que debería permanecer privada.
Sin embargo, a medida que las empresas se apresuran a incorporar la inteligencia artificial en sus operaciones diarias, los investigadores están descubriendo defectos más sutiles, según el artículo. En principio, estos defectos también podrían corregirse. Por ejemplo, las empresas podrían responsabilizar directamente a los gerentes por los errores de los subordinados de inteligencia artificial, sugirió el estudio.
El hallazgo plantea interrogantes sobre cómo las organizaciones estructuran la responsabilidad y la supervisión cuando integran tecnologías de inteligencia artificial en roles tradicionalmente ocupados por humanos. La investigación sugiere que simplemente designar a los agentes de inteligencia artificial como "empleados" sin ajustar los protocolos de supervisión y las cadenas de responsabilidad puede crear puntos ciegos organizacionales que permitan que los errores pasen desapercibidos.
