Durante cuatro jornadas, la reciente versión de Futurecom 2017 reunió en el Transamerica Expo Center de Sao Paulo a grandes multinacionales, compañías locales, experiencias de éxito, novedosas startup y cientos de innovaciones tecnológicas que van impactando la vida de las personas y su forma de relacionarse.
Para abordar el impacto de este nuevo escenario, La Nación entrevistó al doctor en Ciencias de la Comunicación por la Universidad Federal de Rio Grande do Sul (UFRGS), profesor Edson Prester, quien llama a poner atención en los aspectos éticos y en cómo debemos afrontar los avances tecnológicos como parte de nuestro desarrollo.
El también miembro senior del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE, por sus siglas en inglés), invitó a contribuir con la Iniciativa Global desde el ámbito de estudio o desarrollo en que nos encontramos.
– ¿Cómo tiene que prepararse la sociedad ante el avance de la inteligencia artificial y la capacidad de los robots para realizar tareas propiamente humanas?
La sociedad debe ser preparada de diversas maneras. Todos tenemos que ser educados, entrenados y empoderados para priorizar los valores éticos en los productos y servicios que van a ser desarrollados y posteriormente consumidos. Es necesario que las personas entiendan sus derechos y deberes, los beneficios y desventajas de la tecnología, así como los impactos de su uso. Esto implica no sólo al software, sino también el componente de hardware. Es necesario que las partes interesadas -usuario, desarrollador, distribuidor- entiendan los problemas éticos involucrados en el uso de un sistema de Inteligencia Artificial (IA) o robótico y exijan soluciones apropiadas. En este sentido, la Iniciativa Global para Consideraciones Éticas en Inteligencia Artificial y Sistemas Autónomos de IEEE asume un papel fundamental en la discusión de la comunidad global, acerca de los aspectos éticos y posibles soluciones que deben ser consideradas en el desarrollo de un sistema que involucra IA. Además, resulta esencial que exista el apoyo gubernamental para el establecimiento de políticas públicas y la creación de leyes para garantizar y proteger el derecho de las personas.
– ¿Es realmente una preocupación a mediano plazo? ¿O se trata de un fenómeno que será realmente importante a largo plazo?
Es necesario que existan preocupaciones, ellas nos permiten definir estrategias más claras y objetivas. No debemos dejarnos sorprender en ningún momento porque incluso los desarrollos más sencillos tuvieron un impacto gigantesco en el ambiente. Un ejemplo simple es el CFC usado en aerosol, nadie se imaginó que pudiera afectar negativamente a la capa de ozono, creyeron que era una solución inocua. Este es un ejemplo claro de por qué necesitamos siempre pensar en el futuro y desarrollar estrategias seguras desde ahora. En este sentido, la iniciativa global está abriendo un diálogo con todos los sectores de la sociedad para discutir los problemas que puedan ocurrir a corto, mediano y largo plazo, en lo que se refiere a los aspectos legales, el desempleo y la seguridad, entre otros.
Es importante subrayar que todas las discusiones ponen al ser humano en el centro de todo el proceso, independiente de la raza, sexo, edad, religión o clase social. Es decir, pensamos siempre en la dirección de una sociedad más justa, igualitaria en la distribución de recursos, y democrática sin ninguna discriminación o privilegios de un segmento de la sociedad en relación al otro. Esto llevará sin duda a un desarrollo sano, sostenible y seguro. Pero todo este trabajo dependerá fuertemente de la participación gubernamental en la creación de legislaciones apropiadas que regulen el desarrollo de nuevas tecnologías.
– ¿En qué consisten los patrones éticos que se proponen para la robótica?
Los estándares son recomendaciones producidas por grupos de trabajo específicos vinculados a IEEE. En este sentido, existen hasta ahora 10 grupos de estandarización provenientes de la Iniciativa Global que abordan un aspecto diferente de la ética aplicada a la robótica. Por ejemplo, el grupo p7000 se centra en una metodología para la creación de sistemas alineados éticamente; el grupo p7001 se centra en la transparencia de sistemas autónomos, lo que es esencial en auditorías para asignar correctamente responsabilidades en casos de fallas y accidentes, ya que un robot no es un agente moral; y el grupo 7002 se centra en la protección y privacidad de datos, ya que un sistema de IA (incluyendo robots o no) tiene la capacidad de recopilar datos de sus usuarios, analizar comportamientos y hábitos.
En particular, lidero el grupo p7007, que pretende entender el dominio como un todo y crear una representación para, por ejemplo, viabilizar un diálogo entre diferentes especialistas, el cual se utilizará como estructura base en el desarrollo de sistemas que se comporten de forma ética. Una visión más completa de estos grupos de estandarización se puede encontrar en el sitio web de IEEE. – Sabemos que estas innovaciones tecnológicas afectan el comportamiento de quienes viven en sociedad, ¿es esta revolución irreversible en términos psicológicos para las nuevas generaciones?
No podemos creer que los robots no cambiarán nuestros hábitos. Ellos serán agentes nuevos que integrarán nuestra sociedad. Creo que causarán un cambio tan profundo como la provocada por la popularización de Internet, que cambió la forma en que las personas se relacionan. ¿Las cuestiones que se plantean se refieren a qué tipos de cambios surgirán? ¿Cuáles serán los nuevos comportamientos? Ellos pueden impactar negativamente al usuario y a las personas a su alrededor. Las respuestas a estas cuestiones son muy importantes, ya que nos permiten pensar en soluciones adecuadas. La versión 2.0 del documento Ethically Aligned Design (Diseño Alineado Éticamente) -que se pondrá a disposición a finales de 2017- ya presenta algunos posibles impactos y recomendaciones.
Hay innumerables discusiones al respecto, por ejemplo, del cambio o interferencia en los valores o hábitos de un usuario a causa de un robot y el desarrollo de relaciones no convencionales. Además, existe una larga discusión sobre las maneras de mitigar estos problemas. Por eso, Global Initiative es súper importante, ya que está anticipando discusiones para problemas que van a ocurrir en varios años, a través de conversaciones abiertas con expertos de las más diferentes áreas del conocimiento, incluido derecho, psicología, ingeniería, entre otras. Hay que tener interés en conocer más de un punto de vista, participar en los debates, contribuir para el desarrollo de este trabajo y los patrones técnicos. Actualmente, la participación latinoamericana es muy baja. Precisamos tener una voz más fuerte y más alineada al desarrollo de nuestra sociedad de cara al futuro.
Para abordar el impacto de este nuevo escenario, La Nación entrevistó al doctor en Ciencias de la Comunicación por la Universidad Federal de Rio Grande do Sul (UFRGS), profesor Edson Prester, quien llama a poner atención en los aspectos éticos y en cómo debemos afrontar los avances tecnológicos como parte de nuestro desarrollo.
El también miembro senior del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE, por sus siglas en inglés), invitó a contribuir con la Iniciativa Global desde el ámbito de estudio o desarrollo en que nos encontramos.
– ¿Cómo tiene que prepararse la sociedad ante el avance de la inteligencia artificial y la capacidad de los robots para realizar tareas propiamente humanas?
La sociedad debe ser preparada de diversas maneras. Todos tenemos que ser educados, entrenados y empoderados para priorizar los valores éticos en los productos y servicios que van a ser desarrollados y posteriormente consumidos. Es necesario que las personas entiendan sus derechos y deberes, los beneficios y desventajas de la tecnología, así como los impactos de su uso. Esto implica no sólo al software, sino también el componente de hardware. Es necesario que las partes interesadas -usuario, desarrollador, distribuidor- entiendan los problemas éticos involucrados en el uso de un sistema de Inteligencia Artificial (IA) o robótico y exijan soluciones apropiadas. En este sentido, la Iniciativa Global para Consideraciones Éticas en Inteligencia Artificial y Sistemas Autónomos de IEEE asume un papel fundamental en la discusión de la comunidad global, acerca de los aspectos éticos y posibles soluciones que deben ser consideradas en el desarrollo de un sistema que involucra IA. Además, resulta esencial que exista el apoyo gubernamental para el establecimiento de políticas públicas y la creación de leyes para garantizar y proteger el derecho de las personas.
– ¿Es realmente una preocupación a mediano plazo? ¿O se trata de un fenómeno que será realmente importante a largo plazo?
Es necesario que existan preocupaciones, ellas nos permiten definir estrategias más claras y objetivas. No debemos dejarnos sorprender en ningún momento porque incluso los desarrollos más sencillos tuvieron un impacto gigantesco en el ambiente. Un ejemplo simple es el CFC usado en aerosol, nadie se imaginó que pudiera afectar negativamente a la capa de ozono, creyeron que era una solución inocua. Este es un ejemplo claro de por qué necesitamos siempre pensar en el futuro y desarrollar estrategias seguras desde ahora. En este sentido, la iniciativa global está abriendo un diálogo con todos los sectores de la sociedad para discutir los problemas que puedan ocurrir a corto, mediano y largo plazo, en lo que se refiere a los aspectos legales, el desempleo y la seguridad, entre otros.
Es importante subrayar que todas las discusiones ponen al ser humano en el centro de todo el proceso, independiente de la raza, sexo, edad, religión o clase social. Es decir, pensamos siempre en la dirección de una sociedad más justa, igualitaria en la distribución de recursos, y democrática sin ninguna discriminación o privilegios de un segmento de la sociedad en relación al otro. Esto llevará sin duda a un desarrollo sano, sostenible y seguro. Pero todo este trabajo dependerá fuertemente de la participación gubernamental en la creación de legislaciones apropiadas que regulen el desarrollo de nuevas tecnologías.
– ¿En qué consisten los patrones éticos que se proponen para la robótica?Los estándares son recomendaciones producidas por grupos de trabajo específicos vinculados a IEEE. En este sentido, existen hasta ahora 10 grupos de estandarización provenientes de la Iniciativa Global que abordan un aspecto diferente de la ética aplicada a la robótica. Por ejemplo, el grupo p7000 se centra en una metodología para la creación de sistemas alineados éticamente; el grupo p7001 se centra en la transparencia de sistemas autónomos, lo que es esencial en auditorías para asignar correctamente responsabilidades en casos de fallas y accidentes, ya que un robot no es un agente moral; y el grupo 7002 se centra en la protección y privacidad de datos, ya que un sistema de IA (incluyendo robots o no) tiene la capacidad de recopilar datos de sus usuarios, analizar comportamientos y hábitos.
En particular, lidero el grupo p7007, que pretende entender el dominio como un todo y crear una representación para, por ejemplo, viabilizar un diálogo entre diferentes especialistas, el cual se utilizará como estructura base en el desarrollo de sistemas que se comporten de forma ética. Una visión más completa de estos grupos de estandarización se puede encontrar en el sitio web de IEEE. – Sabemos que estas innovaciones tecnológicas afectan el comportamiento de quienes viven en sociedad, ¿es esta revolución irreversible en términos psicológicos para las nuevas generaciones?
No podemos creer que los robots no cambiarán nuestros hábitos. Ellos serán agentes nuevos que integrarán nuestra sociedad. Creo que causarán un cambio tan profundo como la provocada por la popularización de Internet, que cambió la forma en que las personas se relacionan. ¿Las cuestiones que se plantean se refieren a qué tipos de cambios surgirán? ¿Cuáles serán los nuevos comportamientos? Ellos pueden impactar negativamente al usuario y a las personas a su alrededor. Las respuestas a estas cuestiones son muy importantes, ya que nos permiten pensar en soluciones adecuadas. La versión 2.0 del documento Ethically Aligned Design (Diseño Alineado Éticamente) -que se pondrá a disposición a finales de 2017- ya presenta algunos posibles impactos y recomendaciones.
Hay innumerables discusiones al respecto, por ejemplo, del cambio o interferencia en los valores o hábitos de un usuario a causa de un robot y el desarrollo de relaciones no convencionales. Además, existe una larga discusión sobre las maneras de mitigar estos problemas. Por eso, Global Initiative es súper importante, ya que está anticipando discusiones para problemas que van a ocurrir en varios años, a través de conversaciones abiertas con expertos de las más diferentes áreas del conocimiento, incluido derecho, psicología, ingeniería, entre otras. Hay que tener interés en conocer más de un punto de vista, participar en los debates, contribuir para el desarrollo de este trabajo y los patrones técnicos. Actualmente, la participación latinoamericana es muy baja. Precisamos tener una voz más fuerte y más alineada al desarrollo de nuestra sociedad de cara al futuro.
