De robots éticos a personas éticas con robots

“Un robot ha presidido nuestra cena de fin de año”. Con este pensamiento concluyeron los comensales una Nochevieja de 1884. Habían sido invitados por William J. Hammer, antiguo ayudante de laboratorio de Edison, a una amena y sorprendente “cena eléctrica”. En la sala donde se celebró la velada, Hammer aparejó una gran mesa alargada, sobre la cual dispuso cuidadosamente un “electrificante” menú, compuesto, entre otras delicias, por “tostada eléctrica”, “pastel de telégrafo”, “pastel de teléfono” o “limonada incandescente”.

La mesa estaba presidida en su extremo por un autómata llamado Júpiter. A las 12 en punto de aquella noche, la luz se apagó y distintos elementos de la sala se fueron encendiendo. Entre fogonazos eléctricos, el pastel de telégrafo comenzó a emitir mensajes y la limonada incandescente se iluminó; Júpiter levantó su copa y empezó a beber, sus ojos brillaron con un verde intenso, su nariz enrojeció, en su pecho brillaron luces diamantinas y con voz profunda y jocosa empezó a gritar: ¡Feliz año nuevo! ¡Feliz año nuevo! Al finalizar la velada los invitados de Hammer partieron con la inquietante sensación de haber vivido acontecimientos con medio siglo de antelación.

Hoy en día esta “cena eléctrica” y el propio robot Júpiter no tienen misterio para nosotros. Todo ese aparato eléctrico no era más que un conjunto de artilugios electromecánicos operados por Hammer mediante una serie de interruptores controlados desde un cuadro de mandos que descansaba en su regazo. Júpiter era capaz de hablar porque disponía de un fonógrafo ubicado en el interior de su cuerpo, accionado también por Hammer. Todo el invento estaba alimentado por unas baterías colocadas debajo de la mesa. ¿Podemos afirmar que era un sistema inteligente?

Depende de lo que entendamos por inteligencia y de lo que incluyamos dentro del sistema. De manera simplificada podemos asimilar por inteligencia la capacidad de pensar y actuar de manera racional como un ser humano. Si por sistema consideramos solo al autómata Júpiter, no podemos decir que exista comportamiento racional, pues todo él estaba accionado por Hammer. Por el contrario, si por sistema entendemos todo lo anterior junto al propio señor Hammer, entonces no tendremos duda en admitir que estamos delante de un sistema inteligente (considerando al señor Hammer racional, a pesar de su locura de cena).

El autómata Júpiter es un rudimento aproximado pero válido de lo que hoy entendemos por inteligencia artificial. ¡Qué dislate!, se podrá pensar. Júpiter no tomaba decisiones. La inteligencia artificial actual tampoco; sus decisiones están condicionadas por un software desarrollado por unas personas. La confusión viene de creer que la inteligencia artificial es autónoma y nos ilusionamos hablando de vehículos de conducción autónoma.

Sin embargo, en estos vehículos, quien se encuentra al volante es un, o una, ingeniero, a quien no conocemos, que toma sus decisiones sobre qué interruptor activar para, por ejemplo, en caso de accidente salvar a éste o aquél. En lugar de vehículos de conducción autónoma deberíamos llamarlos vehículos de conducción desconocida. Al menos en la “cena electrificante”, Hammer estaba en la mesa con sus invitados y estos le conocían.

La inteligencia artificial solo simula autonomía. Un sistema inteligente ajusta sus acciones según el entorno para conseguir un objetivo dado. Este ajuste lo realiza en un proceso de prueba y error llamado “aprendizaje”, el cual, junto con sus acciones de adaptación al entorno, simulan una ilusión de autonomía.

Una ilusión, pues tan solo es el resultado de un software que le hace actuar según la intención de su desarrollador, de igual manera que Júpiter se movía según sus piezas mecánicas activadas por Hammer. La inteligencia artificial no es un sujeto, sino un objeto sujeto a un software.

Dado que un sistema de inteligencia artificial está sujeto a un software, deberemos crear un software ético. Pero ¿con qué ética? Y, si encontramos una ética adecuada, ¿será ésta computable?

Con la primera pregunta llevamos 2 500 años y no hemos llegado a una solución concluyente. Una agrupación, que no la única, de los tipos de éticas que se han sucedido a lo largo de la historia divide a éstas en dos categorías: éticas teleológicas (o de las consecuencias) y éticas deontológicas (o de los principios).

Las éticas teleológicas determinan que una acción es correcta en función de su resultado o consecuencia. Así para Aristóteles, una acción es buena si consigue la felicidad; o para los utilitaristas, si se consigue el mayor bienestar para el mayor número.

Ahora bien, ¿obtener el mayor bien para muchos es lo que se debe hacer? Con esta pregunta entran en juego las éticas deontológicas, donde lo correcto viene determinado por el cumplimiento del deber, con independencia de sus consecuencias.

En un principio, ambas éticas pueden ser computables. Las más sencillas de programar serían las deontológicas. Bastaría con incluir estos imperativos categóricos como órdenes expresas para que el sistema inteligente realice u omita una acción. Pero, ¿qué mandato programamos? ¿Sería universal o puede depender del usuario? Si queremos cumplir con una ética teleológica, el sistema debería hacer una predicción sobre las consecuencias de sus actos, para lo cual tendría que plantearse varias acciones posibles y hacer un cálculo estadístico y predictivo de la probabilidad de bondad o beneficio de cada consecuencia, actuando entonces con la acción de beneficio probable más alto. Esto reduce la ética a un cálculo matemático. Entonces, ¿cómo calculamos la bondad o beneficio de una acción? ¿Es la ética una cuestión de estadística? Si finalmente no sucede el beneficio más probable, ¿quién responde?

Afortunadamente hay una posible solución a este círculo filosófico entre las éticas deontológicas y las teleológicas. La solución está en la llamada ética aplicada, que consiste en circular entre la ética de principios y la ética de las consecuencias con la mediación de las virtudes.

Para Aristóteles, la virtud consiste en realizar bien su función. Así, un ser humano virtuoso sería aquel que realiza bien su función ¿Y cuál es mi función como ser humano? Entramos de nuevo en siglos de debate. Actualmente hablamos de virtud en el sentido de la excelencia en la persona que busca un comportamiento moral, es decir, que busca la vida buena. En palabras de Alasdair MacIntyre, la vida buena para el hombre es la vida dedicada a buscar la vida buena para el hombre, y las virtudes nos capacitan para entender más y mejor lo que es la vida buena para el hombre.

De todas estas cuestiones filosóficas extraemos dos conclusiones relevantes para una computación de la ética. Primero, que esto mismo resulta complicado. Un código ético computable debería tener éticas deontológicas, éticas teleológicas y virtudes: las dos primeras podrían ser computables, como hemos visto, pero veo complejo cómo convertir la virtud en un algoritmo.

Por consiguiente, y esta es la segunda conclusión, la única salida para disponer de un sistema inteligente ético no es tanto computar un código ético, cuestión ardua, sino considerar al ser humano dentro de dicho sistema —como el sistema formado por el autómata Júpiter y su hacedor Hammer, donde la ética de Júpiter es la ética de Hammer—. De esta manera, tener una inteligencia artificial ética es tener seres humanos que buscan ser mejores personas usando la inteligencia artificial mediante la ética aplicada.

La ética aplicada intenta resolver problemas éticos de actividades humanas concretas. En este sentido ha sido el modelo para crear marcos éticos como la bioética, ética de la economía o ética de las profesiones. Siguiendo a Adela Cortina, proponemos usar la ética aplicada mediante este método circular —llamado hermenéutico— entre la ética de los principios y la ética de las consecuencias, con una mediación de las virtudes, de la siguiente forma:

• Determinar el fin específico —o bien interno— por el que cobra sentido y legitimidad social la inteligencia artificial.

• Esclarecer los medios que usa la inteligencia artificial para producir dicho bien en la sociedad.

• Indagar qué virtudes, valores y principios debemos incorporar para alcanzar ese bien interno, dentro de una moral cívica de la sociedad en la que se inscribe y mediante lo que se llama la ética del discurso.

• Dejar la toma de decisión en manos de los afectados, los cuales, con asesoría y con datos precisos y claros, puedan ponderar las consecuencias, sirviéndose de criterios tomados de distintas éticas —una de ellas podría ser la utilitarista—.

Por tanto, la ética en la inteligencia artificial no es cuestión —solo— de emitir códigos de buenas prácticas por parte de las organizaciones (códigos deontológicos), sino de profundizar en cuál es el fin específico de la inteligencia artificial, qué virtudes queremos desarrollar para conseguir tales fines y cuáles son sus consecuencias. Sobre este último punto todavía necesitamos más investigación. Para los dos primeros, lanzo una propuesta inicial:

La inteligencia artificial es una herramienta, como lo es una palanca o un martillo, por tanto, su fin es aumentar las capacidades del ser humano; el fin de la inteligencia artificial es ayudar al ser humano.

Para conseguir este fin, una de las virtudes que debemos aplicar es la autonomía, que consiste en obedecer a esa parte de cada uno que es libre porque está sujeta a la razón. Así, un sistema inteligente dejaría de ser ético si usurpa dicha autonomía y evita que nosotros tomemos decisiones. Puede sonar algo brusco, pero la decisión de atropellar a alguien o estrellar el coche debe seguir siendo nuestra, porque eso es una decisión del ámbito de la ética y la ética es algo específicamente humano. Para tomar la decisión correcta tenemos la ética aplicada.

En la cena de fin de año de 1884 hubo un sistema inteligente formado por el autómata Júpiter y por Hammer, un ser humano autónomo. Esta idea nunca debemos perderla.

---

La versión original de este artículo aparece en el número 114 de la Revista Telos, de Fundación Telefónica.

---

Juan Ignacio Rouyet, University Lecturer, UNIR - Universidad Internacional de La Rioja

'Messenger kills the Phone Number Star.' ¿El fin de los números de teléfono?

Facebook Messenger ha llegado a los 900 millones de usuarios. Aprovechando este dato, este monstruo ha presentado dos herramientas para que las empresas de todo el planeta inicien una carrera eliminar los números de teléfono. De hecho no es un secreto que cada vez es mayor el número de personas que utilizan métodos alternativos a llamar por teléfono utilizando Whatsapp o el propio Messenger de Facebook. Los que solemos hacer llamadas ‘internacionales’ tenemos estas dos herramientas cómo mecanismo natural de llamada evitando así costes.

Las grandes operadoras de telefonía llevan varios años conviviendo con un mercado que se les estrecha en cuanto a su modelo de negocio tradicional. Primero fueron los mensajes de texto, luego las llamadas internacionales y ahora serán todas. Es una cuestión de costumbre. A medida que las personas nos acostumbramos al uso de mensajería vamos añadiendo contactos de nuestro entorno a nuestra agenda del teléfono. En muchos casos esa agenda coincide con nuestros amigos de Facebook o de una lista de conocidos aplicada en Whatsapp. De enviar un mensaje a realizar una llamada ‘por datos’ hay ya muy poca fricción.

Las operadoras de telefonía están experimentando con otros modelos de negocio como la generación de contenidos, las plataformas audiovisuales u ofreciendo la infraestructura cada vez más densa que permite todo ello. En muchos casos cualquiera de los nuevos actores que han surgido suponen un muro comercial infranqueable. Saben que son sus competidores pero desconocen como ganarles. De hecho, ni comprándolos lograrían evitar el colapso.

¿Qué hubiera ganado una operadora de telefonía comprando Whatsapp hace unos años? Nada. Si la hubieran incorporado, o bien dejaban de ganar ni un céntimo con los mensajes, puesto que la esencia de Whatsapp era la gratuidad, o bien si ponían cuota o coste al servicio, cualquier otra startup ‘gratuita’ les hubiera provocado la huida de clientes.

La cuestión es que como en otros campos la revolución no tiene límites. Facebook y Google se llevarán por delante el concepto ‘número de teléfono’. De momento Whatsapp lo precisa, pero Facebook Messenger no. Sólo tu identidad en la red social.

Facebook ha publicado que ‘a partir de este momento estamos dando otro paso hacia adelante en la entrega de una nueva solución para los más de 900 millones de personas que utilizan Messenger cada mes. Los números de teléfono ya no son necesarios incluso entre los que no son amigos en Facebook. Dado que ‘las guías telefónicas tradicionales están obsoletas, estamos logrando que sea más fácil para cualquiera encontrar personas (y empresas) que son importantes para un usuario y así ser capaz de iniciar conversaciones de inmediato’.

Los nuevos códigos de Messenger son imágenes que funcionan como tarjetas de visita virtuales. Se pueden escanear e inmediatamente utilizarse para iniciar una conversación. Cada imagen es un código único que se puede utilizar en cualquier canal de comercialización incluida la televisión, por ejemplo, permitiendo interactuar inmediatamente entre usuario y empresa.

Facebook va más allá de lo que el mercado había descontado. Resulta que también incorpora una nueva característica a los nombres de usuario. A través de Messenger cada negocio tiene un indicativo propio con un ‘@’ delante de manera que puede utilizarse como una especie de URL vinculada a la red social. Obviamente esto pone en alerta al concepto de venta de dominios puesto que, con este artilugio, las empresas podrán utilizar las páginas de Facebook como sus principales destinos en la red. Un ‘site’ bien hecho en Facebook logrará tener enlazado tu módulo de comunicación de un modo mucho más fácil y directo gracias a Messenger que con un teléfono en el footer de su web.

Además, Facebook ha lanzado el módulo Messenger Greetings, unas notas personalizadas que permiten generar cadenas de mensajes para que los usuarios interactúen. La empresa de Zuckemberg pretende llevar el marketing directo a un nivel absolutamente nuevo aunque pueda parece inicialmente algo intrusivo.

Lo que está claro es que la Cuarta Revolución Industrial lo sobrevuela todo, lo cambia todo. De hecho es como una meta-revolución capaz de cargarse el motor sobre el que se establece ella misma. Digamos que si esta fase de la historia se sujeta en lo digital, en la red y en la automatización, es precisamente todo ello lo que hace nazcan derivados que eliminen sus orígenes. La red es tan inmensamente sofisticada y poderosa que genera productos que destruyen a sus creadores.

El mundo que vivimos no es sólo el mundo que ahora gestiona un nuevo factor digital. Es todo. No es tan solo una herramienta. No es el volante, ni las ruedas, ni el cambio de marchas, no es el motor, no es el asiento de atrás, no es el semáforo, no es el guardia que indica por donde pasar y cuando, no es el sistema de control de tráfico, no es el mecánico, no es el fabricante, no es nada de todo eso. No es el coche, no es el vendedor, no es el anunciante, no es el creativo, no es nada de todo eso. Internet es el espacio donde todo sucede y lo hará ya de manera incontrolable para siempre.

Evolucionará hacia la cuarta revolución industrial que ni tan siquiera será industrial, será de otro modo que apenas podemos identificar y que, viendo lo visto, será muy distinta a como todos imaginamos. 

Nuevos modelos de negocio y nuevas relaciones entre empresas en la era digital.

Que la transformación digital es algo que pronto dejará de tener sentido definir es evidente. Vivimos el cambio constante de todo cuanto nos rodea. Las empresas y los clientes asumimos con naturalidad esa modificación sin pausa que, además, no para de acelerarse. La digitalización de procesos está dando lugar a la digitalización de las industrias y ésta, a su vez, a la transformación digital de todo por derivación. Cada vez es más difícil percibir la frontera entre lo que es, era o será.

Desde los objetos personales más pequeños hasta los más grandes, todo el mundo estará conectado digitalmente, y lo hará siempre muy pendiente de cada una de nuestras necesidades y gustos. El mundo digital tal y cómo lo conocemos hoy en día parecerá algo ridículamente rudimentario en apenas una década. Pensemos en como era la red hace una década. Busca imágenes de los artilugios con los que te conectabas, sus formas, su velocidad, lo que podías hacer con ellos. 

Gracias a la mejora de los semiconductores, los nanotubos de carbono, el grafeno, las redes celulares, la tecnología 5G, las comunicaciones inalámbricas dominando nuestro entorno, la inteligencia artificial difícilmente diferenciada de la natural, los robots, los datos a velocidades imposibles, la retirada de intermediarios y elementos en las cadenas de valor, la automatización de coches, barcos y aviones y la emergencia de un modelo empresarial basado en otro concepto menos conservador y mucho más arriesgado como las ‘startups’.

El mundo inmediato estará plagado de vehículos y viviendas que respondan a nuestros deseos, de aparatos que piensen por sí mismos o de geografías interconectadas cómo tierras de cultivo remotas enlazadas a ciudades superpobladas. Sabemos ya que habrá un día en que África estará completamente conectada digitalmente. Ese día tendrá lugar entre marzo y abril del año 2025 según este estudio.

Sin embargo lo importante no será cuantos estaremos conectados sino que objetos lo estarán. No será determinante ‘quien’, sino ‘que’. Desde cepillos de dientes a neveras pasando por coches o puertas de acceso. Todo emitiendo y recibiendo como en una orgía de datos dando tumbos de un lado a otro, ordenando la compleja convivencia entre humanos, la Internet de las Cosas y la Internet del Todo.

Y ¿que precio tendrá todo esto? El coste de la conectividad en sí está disminuyendo, y los dispositivos de apoyo, como teléfonos inteligentes y tablets, son cada vez menos costosos, más potentes y más omnipresentes. Lógicamente estos avances parecen una ventaja para la industria de las telecomunicaciones que empezaba a tener serías dificultades para entender su papel en un mundo donde facilitar la comunicación ya era ‘casi gratis’ y sus servicios de conectividad o venta de plataformas de comunicación dejaban de ser monopolios ‘técnicos’ de ellas. Tocaba reinventarse.

Transformarse no digitalmente, eso ya lo habían hecho, sino industrialmente, en su oferta, en la propuesta de valor. Estas empresas esperaban obtener mucho más beneficio ofreciendo la posibilidad de monetizar el tráfico adicional que se empezaba a trasladar pero no ha sido así. Por eso las grandes corporaciones de telecomunicaciones se han centrado en las experiencias del usuario en lugar de su consumo directo desarrollando una variedad de servicios.

Esos nuevos servicios normalmente han partido de acuerdos y colaboraciones con otras compañías. Por ejemplo AT&T está trabajando con IBM en un programa de ciudades inteligentes, Telefónica ofrece sus servicios IoT llamado Thinking Things que permite desarrollar programas para ajustar el clima y la iluminación en habitaciones, oficinas y edificios. En el futuro esperan poder controlar todo el equipo de una casa o de una oficina y gestionar todos los datos con los que interactúan todos ellos.

Hay más. Empresas como Nespresso, Coca-Cola u Orange han puesto en marcha un sistema combinado en M2M, comunicación entre objetos, por ejemplo. La alemana Deutsche Telekom está apoyando la digitalización en sus procesos de fabricación con una iniciativa llamada ‘Industrie 4.0’. La empresa india Bharti Airtel está investigando junto al State Bank of India aplicaciones de banca móvil para personas que no pueden acceder a una sucursal local. Proporcionar estos y otros servicios se está convirtiendo en el proceso de sustitución de modelos negocio anteriores y de adaptación al futuro.

Este proceso lo podemos extrapolar a todo tipo de empresas e industrias. Comunicación, medios, formación, servicios profesionales o lo que sea. Muchos están diseñando modelos de relación entre diferentes empresas de muy distintos campos para ofrecer servicios conjuntos en lugar de crear costosos departamentos o fundar nuevas líneas desde el interior que conlleven a un largo aprendizaje que, viendo la velocidad que toma todo, no suelen ser rentables finalmente.

Hay industrias que han diseñado ecosistemas digitales que vincularán modelos de trabajo complejos. Por ejemplo, imponer brazos tecnológicos a una estructura de servicios más tradicionales está siendo la tendencia. Ofrecer un ‘pool’ de servicios paquetizados que puedan venderse como una oferta innovadora reemplaza a los catálogos de siempre.

¿Como lo han hecho algunas compañías? Lo vemos claro en la industria de las telecomunicaciones de nuevo. Recientemente, los proveedores de este tipo de servicios han comenzado a buscar el crecimiento a través de los ecosistemas digitales innovadores diseñados alrededor de la articulación de empresas, adquisiciones o de, en ocasiones, investigación y desarrollo interno. La sueca TeliaSonera, por ejemplo, ha tomado una participación en Zound Industries, un proveedor de accesorios de moda, mientras que Telstra de Australia ha invertido en firmas digitales a través de DocuSign y en plataformas de vídeo a través de Ooyala.

Deutsche Telekom Capital Partners ha destinado US$ 620 millones para financiar nuevas empresas alemanas como fondo de entrada en ellas. Muchos de los principales operadores mundiales han establecido sus propias incubadoras independientes o fondos de riesgo centrados en la innovación digital, y ha creado oficinas satélites en la región de Silicon Valley o Dublín para tener acceso a las ideas de los servicios de próxima generación.

Las compañías de telecomunicaciones representan un buen ejemplo. Ellas han comenzado a buscar el crecimiento a través de los ecosistemas digitales innovadores. ¿Lo hacen otros sectores, otras industrias? ¿Por qué una agencia de servicios profesionales no llega a un acuerdo con una empresa tecnológica para conquistar un nuevo escenario? Al final esto va de vínculos y de ofrecer algo que necesiten tus clientes potenciales. Si tienes que cambiar completamente hazlo. Si tus compradores han cambiado, tú debes cambiar también. A veces no llegarás a tiempo, otros se adelantaron. Es cuestión de estar atento. La cuestión es que sino puedes ofrecerlo tu sólo, debes buscar a quien puede complementarte para venderlo. En gran medida la Nueva Economía, la digitalización de todo, nos avanza que esta es una práctica cada vez más fácil de abordar pero también más necesaria.