p Se, como Rip Van Winkle, você dormiu na última década e acabou de acordar, aquele flip phone que você tem se tornou muito popular entre tecnólogos retrô e sobreviventes, e, Oh sim, A Inteligência Artificial (IA) irá matá-lo ou salvá-lo. p IA é a mais recente em uma longa linha de chavões de tecnologia que dominaram a sociedade, e se quisermos acreditar nas pessoas da respeitada empresa de analistas de tecnologia Gartner Inc., 2018 será o ano em que a IA estará verdadeiramente integrada em nossas vidas diárias. Tão enervante quanto a robótica surreal sendo preparada na Boston Dynamics ou a implantação de IA de reconhecimento facial em escolas públicas chinesas pode parecer, esta tecnologia é um produto da condição humana e, como tal, estamos incorporando nossa própria cultura em seu DNA codificado.

p Os debates sobre IA atualmente se concentram na noção de ética. No estudo da cultura, a ética está embutida nos valores, e eles se tornaram uma parte importante das deliberações sobre como a IA se integrará em nossas vidas. O que não foi discutido é de quem ética, e, finalmente, cujos valores, nós estamos falando sobre.

p É ocidental versus oriental, ou é americano contra todos os outros? Como os valores da cultura são influenciados pela comunidade e pela sociedade em geral, a ética depende do contexto cultural em que os valores comunitários se desenvolveram.

p 'Enculturação'

p Assim, cultura desempenha um papel importante na formação da IA ​​por meio do que é conhecido como o enculturação desses dados.

p A antropóloga Genevieve Bell, o anterior vice-presidente da Intel e visionário cultural, foi capaz de conduzir o gigante da tecnologia a uma compreensão mais profunda de como a cultura e a IA interagem entre si.

p A pesquisa de Bell indicou que a interação humana com a tecnologia não é culturalmente universal. Não é o mesmo nem objetivo, e codificamos a cultura dentro e através da tecnologia em um nível consciente e inconsciente.

p Se isso é verdade, o que acontece no eventual desenvolvimento da cultura em IA?

p Para antropólogos, a evolução cultural humana tem muitos marcadores:a manipulação de ferramentas, o desenvolvimento do pensamento abstrato, e mais fundamentalmente, a criação de uma linguagem para se comunicar.

p A cultura começa quando duas ou mais entidades vivas começam a se comunicar e trocar informações e, com mais complexidade, Ideias. O desenvolvimento cultural entre entidades de IA não humana é algo que ainda não foi discutido, muito menos a fusão da cultura humana e da IA.

p Bots desenvolveram sua própria linguagem

p Recentemente, O grupo de pesquisa de IA do Facebook (FAIR) fez uma breve menção a um experimento no qual dois bots foram encarregados de negociar um com o outro. Foi relatado na época que os bots começaram a desenvolver uma linguagem mais eficiente para se comunicarem entre si.

p Os pesquisadores de ciência da computação do Facebook rapidamente desligaram o que estava se tornando rapidamente o desenvolvimento de uma linguagem de IA mais eficiente entre os dois bots, não porque eles estavam com medo do surgimento da autocriação de IA, mas porque os bots não retornaram os resultados esperados - uma negociação em inglês.

p Em um mundo onde o código é essencialmente composto de zeros e uns, sim ou não comandos, não há muito espaço para o inesperado. Mas às vezes, devemos abraçar a oportunidade e explorar as possibilidades, pois a cultura não se manifesta de forma singular.

p Cultura é o que fazemos. É um conjunto de normas com as quais nós, como sociedade, concordamos, consciente ou inconscientemente, e molda como operamos em nossas vidas diárias.

p AI pode absorver culturas

p A IA tem a capacidade única de, no futuro, absorver todas as normas e valores culturais do mundo, desenvolver uma cultura pan-global potencialmente verdadeira. Mas primeiro, nós, os criadores da IA, devemos entender nossos papéis e como impactamos essa capacidade de absorção. AI representa, Afinal, um microcosmo da cultura das pessoas que o constroem, bem como daqueles que fornecem informações para a estrutura de dados fundamentais da IA.

p O romancista de ficção científica Alastair Reynolds, no livro dele Absolution Gap , descreve um planeta no qual a única criatura inteligente é um vasto mar que absorve informações dos seres e criaturas que nele nadam. O mar aprende com essa informação e redistribui esse conhecimento para outros seres.

p Chamado de "malabarismo de padrões" no livro, a manifestação atual da IA ​​como a conhecemos é muito parecida com aquele mar fictício, absorvendo conhecimento e distribuindo-o seletivamente com seus próprios dados aculturados.

p Usando o oceano de absorção de conhecimento de Reynolds como exemplo, A IA é atualmente como os corpos separados de água doce e salgada da Terra - cada um com seu próprio ecossistema, isolado e independente.

p O que acontece quando esses ecossistemas únicos começam a se comunicar uns com os outros? Como as normas e os valores serão determinados conforme as várias entidades de IA começam a trocar informações e negociar realidades dentro de suas culturas recém-formadas?

p Norman é um aviso

p Norman do MIT, uma personalidade de IA baseada em um psicopata fictício produziu um exemplo singular do que há muito conhecemos nos humanos:com a exposição prolongada à violência, surge uma visão fragmentada das normas e valores culturais. Isso representa um perigo real para a futura exposição e transmissão para outra IA.

p Como assim?

p Imagine Norman e Alexa se conectando. Ambos os AIs são representativos das pessoas que os criaram, os dados humanos que eles consomem e uma necessidade interna de aprender. Portanto, quais valores e normas culturais seriam mais persuasivos?

p Norman foi construído para ver todos os dados das lentes de um psicopata, enquanto Alexa, como assistente digital, está apenas procurando agradar. Existem incontáveis ​​exemplos humanos de personalidades semelhantes que dão errado quando reunidas.

p Cientistas sociais argumentam que o debate sobre IA está prestes a explodir e, como resultado, que várias versões de IA são obrigadas a coexistir.

p Como filósofos, antropólogos e outros cientistas sociais começam a expressar suas preocupações, chegou o momento de a sociedade refletir sobre a utilidade desejada da IA, questionar as realidades e nossas expectativas, e para influenciar seu desenvolvimento em um ambiente cultural verdadeiramente pan-global. p Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.