La capacidad innovadora de la tecnología -así como su potencia- avanza a un ritmo notable, creando nuevas posibilidades en la economía digital actual. Esto es sobre todo maravilloso, con una gran advertencia: debemos tener en cuenta que sólo porque tengamos la capacidad de desplegar una nueva innovación tecnológica no significa que debamos hacerlo. La necesidad de dar prioridad a la ética digital es cada vez más importante para todas las organizaciones que son conscientes de la huella que están dejando en la sociedad.
Las formas transformadoras en que se utilizan las nuevas tecnologías, en particular la inteligencia artificial, exigen debates más profundos sobre las consideraciones éticas de estos despliegues. Dependiendo de la organización y de su nivel de ambición en la aplicación de estas tecnologías, esto podría incluir incluso la necesidad de un jefe de ética para garantizar que estas cuestiones reciban la atención adecuada en los altos niveles de la organización.
No todas las organizaciones tendrán la necesidad o la capacidad de invertir en una nueva función de supervisión de la ética, pero prácticamente todas las organizaciones deberían hacer que su director de seguridad de la información - u otro líder de seguridad - dedicara suficiente tiempo a anticipar y abordar cómo las innovaciones tecnológicas de su organización podrían ser utilizadas indebidamente por quienes tienen malas intenciones.
El mes pasado, la Comisión Europea dio un valioso paso hacia el reconocimiento de este nuevo imperativo, presentando una serie de recomendaciones que hacen hincapié en la necesidad de contar con algoritmos seguros y fiables y con normas de protección de datos que garanticen que los intereses empresariales no se antepongan al bienestar de los ciudadanos.
En otros lugares del mundo, el gobierno australiano está estudiando una política que pretende garantizar que la IA se desarrolle y aplique de forma responsable. "La IA tiene el potencial de proporcionar verdaderos beneficios sociales, económicos y medioambientales, impulsando el crecimiento económico de Australia y mejorando directamente la vida cotidiana de las personas", dijo Karen Andrews, ministra de Industria, Ciencia y Tecnología del país. "Pero lo más importante es que nos aseguremos de que la gente sea escuchada sobre cualquier preocupación ética que pueda tener en relación con la IA en áreas como la privacidad, la transparencia, la seguridad de los datos, la responsabilidad y la equidad".
Aunque los organismos gubernamentales deberían desempeñar un papel destacado en la resolución de estos nuevos retos, se necesita una respuesta global más amplia. Resulta alentador que algunos rincones del mundo académico estén reconociendo el reto y actuando al respecto, con Stanford y el Instituto Tecnológico de Massachusetts entre las instituciones que están invirtiendo fuertemente en la educación de la IA centrada en el ser humano.
Los profesionales actuales también necesitarán orientación sobre cómo tener en cuenta las implicaciones éticas del uso acelerado de la IA. El potencial de los usos maliciosos de la IA ha generado una gran preocupación entre los investigadores y los líderes de la industria a nivel mundial, pero rara vez se presta la debida atención cuando se idean y desarrollan los productos. Lo que está en juego es demasiado importante como para tolerar tales descuidos. La investigación de ISACA sobre la transformación digital muestra que la ingeniería social, el contenido manipulado de los medios de comunicación, el envenenamiento de datos, la propaganda política y los ataques a los vehículos de autoconducción son las principales preocupaciones de los profesionales de la seguridad cuando se trata de las amenazas que plantea la IA maliciosamente entrenada.
Los nuevos problemas de ética digital afectan a una amplia gama de sectores, muchos de los cuales tienen ramificaciones inherentes a la salud y la seguridad públicas, como la formación militar, la investigación médica y la aplicación de la ley. Prácticamente todos los sectores se están beneficiando de los avances tecnológicos con el potencial de impulsar enormes beneficios para la sociedad, pero también se enfrentan a graves cuestiones éticas que no deben descartarse.
La policía se enfrenta cada vez más a decisiones difíciles a la hora de equilibrar las nuevas capacidades de vigilancia con el derecho a la intimidad de las personas a las que debe proteger. Si bien es comprensible que la IA esté acaparando gran parte de la atención reciente en lo que respecta a la ética digital, los retos éticos derivados de la transformación digital van mucho más allá. Otra tecnología emergente, la realidad aumentada, plantea varias zonas grises desde el punto de vista ético, siendo una de ellas la forma de ver la difuminación de las líneas de los aspectos de una experiencia que son reales.
Las implementaciones del blockchain también abren la puerta a enigmas éticos, como la forma en que la información privada registrada en un blockchain podría ser explotada. Y las consideraciones éticas se magnificarán aún más en la próxima década, a medida que los avances de la computación cuántica adquieran mayor protagonismo, poniendo en marcha nuevos riesgos éticos y de seguridad relacionados con los datos sensibles y encriptados.
Estos son solo una muestra de los graves problemas para los que los profesionales y sus organizaciones deben estar preparados cuando se trata de la ética en la era de la transformación digital. La creciente adopción de la IA y otras tecnologías de alto impacto viene con ventajas dignas de gran optimismo, pero los riesgos también están aumentando.
Las organizaciones le deben al público asegurarse de que la prisa por innovar no haga que la moda o la rentabilidad potencial de una nueva implementación sea la única medida para dar luz verde.
Fuente: CSO
Comments