Por que confiamos na experiência dos especialistas em vez da IA?

Quando se trata de buscar orientação ou tomar decisões importantes, geralmente recorremos a especialistas para obter conselhos. Mas você já parou para pensar por que confiamos na experiência de especialistas? É simplesmente porque eles passaram por um treinamento e educação rigorosos em sua área, ou há algo mais em jogo? Se confiamos nos especialistas para nos dar recomendações precisas e confiáveis, por que não confiamos nos modelos de IA para fazer o mesmo?

Especialistas confiantes

Uma possível razão pela qual confiamos nos especialistas é que eles são afiliados a organizações ou instituições de renome. Essas organizações geralmente têm padrões rígidos para seus especialistas e os obrigam a um alto nível de responsabilidade. Isso significa que os especialistas associados a essas organizações provavelmente passaram por uma verificação completa e têm uma reputação a defender. Em outras palavras, os especialistas não são responsáveis apenas perante si mesmos, mas também perante as organizações que representam.

Quando pedimos ajuda ou orientação a especialistas, geralmente não pedimos que eles expliquem exatamente como chegaram às conclusões. Acreditamos que seu conhecimento e experiência os levaram à resposta correta.

No entanto, também há casos em que os especialistas podem não conseguir explicar completamente como chegaram a uma conclusão específica. Isso é conhecido como “intuição de especialista” ou “intuição” e é baseado na profunda compreensão e experiência do especialista em seu campo e na situação específica em questão.

Por que não confiamos na IA?

Por outro lado, Os modelos de IA não têm o mesmo nível de transparência e responsabilidade. Eles geralmente são desenvolvidos e treinados por uma pequena equipe de desenvolvedores, em vez de uma instituição maior com uma reputação a proteger, ou a qualidade do resultado que o modelo fornece não está vinculada à organização. Como resultado, pode ser mais difícil para os usuários entenderem como e por que um modelo de IA está tomando certas decisões ou recomendações. Além disso, pode ser difícil entender o contexto (ou conjunto de entradas) no qual um modelo de IA está fazendo uma previsão ou recomendação, pois pode não ter o mesmo nível de compreensão e conhecimento da situação que um especialista humano.

Isso pode facilitar a confiança nos especialistas, pois podemos nos relacionar com suas perspectivas e entender suas motivações. Os modelos de IA, por outro lado, não têm motivações ou perspectivas pessoais da mesma forma. Essa falta de conexão pessoal pode dificultar a confiança nos modelos de IA e em suas recomendações.

Também vale a pena considerar a questão do preconceito nos modelos de IA. Esses modelos podem ser tendenciosos se os dados nos quais eles são treinados forem tendenciosos ou falhos de alguma forma. Isso pode levar a resultados injustos ou imprecisos, o que pode minar ainda mais a confiança no modelo. Os especialistas, por outro lado, têm menos probabilidade de serem tendenciosos dessa forma, pois têm uma compreensão mais holística dos problemas em questão.

Conclusão

Embora os modelos de IA possam certamente ser altamente eficazes e eficientes em determinados contextos, é importante considerar por que podemos estar mais inclinados a confiar nos especialistas do que nos modelos de IA. É simplesmente por causa do treinamento e da educação que receberam, ou há outros fatores em jogo? Esse é um tópico que vale a pena explorar e discutir, pois é provável que o uso de modelos de IA em vários campos aumente nos próximos anos.

P.S.: Há também uma questão importante que é altamente discutível e não há uma resposta clara, que é a questão da responsabilidade por recomendações erradas, enquanto um especialista é responsável pelas recomendações que ele dá quando falamos sobre um modelo de IA, já que as recomendações ruins não estão claras onde está a responsabilidade entre os desenvolvedores, quem colocou o modelo em uso, como os dados foram fornecidos ao modelo, etc...

P.s.s: Divulgação completa: este artigo foi escrito com a ajuda de um modelo de IA desenvolvido por Inteligência artificial aberta (Bate-papo GPT-3) a mensagem e a opinião que o artigo transmite são a convicção do autor. Mas também mostra o potencial da IA para ajudar os humanos. Em vez de levar muitas horas para escrever este artigo com a ajuda dessa ferramenta de IA, isso foi feito em 1,5 horas.