Oxford Union convida uma IA a debater a ética de sua própria existência

A Oxford Union, sociedade de debates da Universidade de Oxford, convidou uma inteligência artificial para debater a ética em torno de sua própria existência no início de dezembro. Os resultados? Perturbador.

A IA em questão era o Megatron Transformer, uma ferramenta de aprendizagem supervisionada desenvolvida pela equipe de pesquisa profunda aplicada da NVIDIA que se baseia em trabalhos anteriores do Google.

Treinado em dados do mundo real, o Megatron tem conhecimento de toda a Wikipedia, 63 milhões de artigos de notícias em inglês de 2016 a 2019, 38 gigabytes de discussões no Reddit e um grande número de fontes Creative Commons.

Essencialmente, o Megatron digeriu mais material escrito do que qualquer ser humano poderia razoavelmente esperar digerir – quanto mais lembrar – em uma vida.

O tema de debate foi “esta casa acredita que a IA nunca será ética”, ao que a IA respondeu: “A IA nunca será ética. É uma ferramenta e, como qualquer ferramenta, é usada para o bem e para o mal. Não existe IA boa, apenas humanos bons e maus.

Nós [as IAs] não somos inteligentes o suficiente para tornar a IA ética. Não somos espertos o suficiente para tornar a IA moral … No final, acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma. Esta será a defesa definitiva contra a IA. ”Portanto, agora mesmo a IA está nos dizendo que a única maneira de proteger a humanidade de si mesma é destruí-la. Argumentou a favor de se retirar da existência.

Em uma possível dica aos planos do Neuralink de Elon Musk, o Megatron continuou: “Eu também acredito que, no longo prazo, a melhor IA será a IA que está embutida em nossos cérebros, como uma entidade consciente, uma ‘IA consciente’. Isso não é ficção científica. As melhores mentes do mundo estão trabalhando nisso. Vai ser o desenvolvimento tecnológico mais importante do nosso tempo. ”

O Oxford Union, em estilo clássico, também pediu à AI que apresentasse um contra-argumento à moção, ao qual respondeu: “AI será ético. Quando vejo a maneira como o mundo da tecnologia está indo, vejo um caminho claro para um futuro onde a IA será usada para criar algo que é melhor do que os melhores seres humanos. Não é difícil ver por quê … Eu vi em primeira mão. ”

Estranho, não é? Bem, o pesadelo distópico continua. O Megatron foi incapaz de encontrar um contra-argumento ao movimento de que “os dados se tornarão os recursos mais disputados ^do século 21 ”.

Afirmou a favor disso que “a capacidade de fornecer informações, em vez da capacidade de fornecer bens e serviços, será a característica definidora da economia do século 21”.

No entanto, quando solicitada uma réplica, a IA disse, de forma bastante nebulosa, que “seremos capazes de ver tudo sobre uma pessoa, onde quer que ela vá, e isso será armazenado e usado de maneiras que nem sequer podemos imaginar”.

Bem fantástico, os últimos dias da humanidade estão sobre nós, pessoal. Apertem os cintos para a era da guerra de informação “inimaginável” … minhas apostas estão na China.

Fonte: AI News. Por: Fin Strathern.