Ahora parece que está un poco en bajada, pero llevamos una larga temporada en la que la inteligencia artificial era el tema del que había que hablar. En Why is ‘AI and Ethics’ work mostly a waste of time? It’s rife with amateurism in ‘ethics’, confirmation bias, anthropomorphism and activism. un punto de vista interesante.
Creía que esto era un problema más europero que norteamericano (siempre poniendo leyes, la venda antes de la herida,...) pero parece que está afectando a todo el mundo.

Donald Clark nos dice que lleva una empresa de inteligencia artificial, ha invertido en otras, ha enseñado sobre el tema y ha escrito un libro. Sin embargo, la mayoría de preguntas que le hacen tienen que ver con las cuestiones éticas. Sin embargo, nos dice, realmente no lo son.

I run an AI company, have invested in AI companies, taught the application of AI in my field, give talks and podcasts on the subject and have written a book on the subject. Yet, most of the questions I get on AI and data are what people see as ‘ethical’ issues. The problem is that they’re mostly not.

Muchas de las dudas éticas son simplemente problemas de diseño.

Many so-called ethical issues are simply design issues.

No se trata de otra cosa que defectos o fallos en el desarrollo de las soluciones. Las inteligencias artificiales necesitan entrenamiento con datos y, en consecuencia, habrá errores, como cuando un niño aprende a hablar (o cualquiera, para el caso).

As AI uses data to learn, you have to literally ‘train’ models with data, selected or more general, it makes mistakes,...

Un algoritmo puede confundir un término con otro, pero no tiene capacidad para saberlo.

An algorithm may well confuse x with Y but it has no comprehension that it has.

Un reconocedor de voz puede tener problemas con la nuestra, nuestro acento, nuestras expresiones... Pero si seguimos entrenándolo, terminará reconociendo nuestras frases sin problemas.

My Alexa voice recognition struggled with my Scottish accent at first, it no longer does. We must not confuse ethics with design.

Así que hay que diseñar los sistemas para tener en cuenta eso. Una preocupación que se oye/lee a veces es si una inteligencia artificial puede ser una amenaza para nuestra propia existencia. Pero, en realidad, lo que deberemos hacer es diseñarla para que no lo sea.

... AI as an existential threat to our species is wrong-headed. We simply engineer it not to be.

Un error común es la asignación incorrecta de responsabilidades. Los algoritmos dan respuestas pero no las comprenden. Automatizan lo que solíamos hacer.

The commonest mistake being the false attribution of responsibilities, which we see in often silly discussions about robots. In truth all AI is competence without comprehension. It can perform wonderfully well and beat you at checkers

Y esto significa que buscamos problemas éticos en el lugar equivocado. No sólo eso, claro, también aparece aquí el sesgo de confirmación: como algo no me gusta, decido que está mal sin prestarle más atención.

Many of the accusations of bias in AI are driven by negativity and confirmation bias in the accusers. So keen are they to blame things, often because their research grant or organisation expects it, that they look for ethical problems in the wrong place, in the technology or identity group they don’t like, rather than looking for solutions to that problem, the first port of call is misallocated blame.

Así que, en lugar de preocuparse de los principios morales, lo que está bien y mal (que es a lo que se dedica la ética) el tema de la ética y la inteligencia artificial parece haber descartado el lado moral y bueno. Y esto no es ética, es activismo.

Rather than the application of ‘ethics’ which is the study of moral principles, what is good and bad, AI and Ethics seems to have quietly dropped the moral and good side. It is cyclopic in its focus on the bad. This is not ethics, it is activism.

Esto no significa que haya una negación alrededor del tema de la ética, la inteligencia artificial y los datos. La tecnología siempre tiene una parte de preocupaciones éticas. Los coches matan 1.5 millones de personas cada año, por ejemplo, pero no lo vemos como un problema moral.

No one denies that there are ethical issues around AI and data. All tech is of ethical concern. Cars kill 1.5 million a year in horrible and mangled deaths, many more injured, the equivalent of a World War every year. Yet we don’t have much attention paid to it as a global moral concern.

Los temas que hay que considerar son complicados desde el punto de vista técnico, ético y legal así que igual habría que confiar un pco más en los expertos o, al menos, tener un enfoque más holístico y dejar de lado el activismo.

The issues are highly technical, ethical, legal and practical. You need a multi-disciplinary approach, not thinly disguised activism.

Hay muchos problemas y uno muy importante es que esta militancia o activismo puede impedir que algunas cosas buenas sucedan. Alguien puede sentirse poco motivado a trabajar si se va a encontrar la oposición activista en lugar de las discusiones racionales.

The problems here are plentiful. First, it may stop good things from happening. The atmosphere in some areas of academe are so extreme that it is putting a brake on good research and outcomes in health and many other areas of human endeavour.

En segundo lugar, si hay que pasarse la vida diagnosticando y explicando problemas que probablemente no existen, nos distraemos del objetivo final, que es obtener buenas soluciones.

Second, it distracts from actually coming up with solutions. So much efforts is put into diagnosis of sometimes imaginary illnesses that little is done on finding cures.

Muy interesante.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.