Fake News 2.0: a IA em breve poderá imitar qualquer voz humana

A maior perda causada pela inteligência artificial será a completa destruição da confiança em tudo que você ouve ou vê

Créditos: Rami Niemi

Em 2018, o medo das notícias falsas será ínfimo comparado ao das novas tecnologias capazes de imitar a voz humana. Isso poderia criar pesadelos de segurança. Pior ainda, poderia tirar de nós parte de nossa singularidade. Mas empresas, universidades e governos já estão trabalhando furiosamente para decodificar a voz humana para muitas aplicações. Estas vão desde maior integração aos dispositivos da internet-das-coisas até a viabilização do diálogo natural entre humanos e máquinas. Países mais adeptos da tecnologia (os EUA, China e Estônia) entraram nesse espaço, e gigantes do tech como o Google, Amazon, Apple e o Facebook também têm projetos especiais relacionados à voz.

Não é tão difícil desenvolver uma voz artificial, depois modelar e reproduzir palavras e frases faladas. Era admirável ouvir um Apple Macintosh informando a data e a hora em um tom seco e digital. Criar uma voz que soa natural envolve algoritmos muito mais complexos e caros. Mas essa tecnologia está disponível agora.

Como qualquer patologista de voz atestará, a voz humana é muito mais do que vibrações das cordas vocais. Essas vibrações são causadas pelo ar que escapa de nossos pulmões, forçando a abertura de nossas membranas vocais, um processo que produz tons tão únicos quanto impressões digitais, por conta das milhares de comprimentos de onda que são criados simultaneamente e em coro. Mas a singularidade de uma voz também está ligada a características que raramente consideramos, como a entonação, a inflexão e o ritmo. Esses aspectos de nossa fala dependem da situação, são frequentemente inconscientes e fazem toda a diferença para o ouvinte. Eles nos contam quando uma frase como, “Uau, essa roupa é demais!” deve ser interpretada como maldosa, sarcástica, amável ou indiferente. Esse desafio explica o uso desde o começo de emojis em mensagens de texto. Eram necessários para clarificar a intenção por trás da mensagem escrita porque é extremamente difícil interpretar o significado real do escrito comparado ao que é dito.

Detalhes como intonação, inflexão e ritmo são particularmente difíceis de modelar, mas estamos chegando lá. O projeto Voco da Adobe está desenvolvendo o que seria, essencialmente, um Photoshop das ondas sonoras. Funciona com a substituição de ondas por pixels, para produzir algo que soa natural. A companhia está apostando que, se o suficiente da fala de uma pessoa puder ser gravado (ou adquirido), precisará de um pouco mais do que uma ação de copia-e-cola para alterar a gravação daquela voz. Os resultaods iniciais do Voco são assustadores, assim como impressionantes. O poder do protótipo indica o quão cedo cidadãos comuns serão incapazes de distinguir entre vozes reais e adulteradas. Se você tiver trechos o suficiente armazenados, poderá fazer qualquer um falar praticamente qualquer coisa.

As empresas de tecnologia e seus investidores estão apostando na ideia de que esses sistemas terão tremendo valor comercial com o tempo. Mesmo antes dessa situação surgir, no entanto, esse tipo de tecnologia já apresentará grandes riscos. Em 2018, um indivíduo nefasto poderá ser capaz de criar uma imitação vocal boa o suficiente para enganar, confundir, irritar ou mobilizar o público. A maior parte dos cidadãos no mundo serão incapazes de discernir entre um Trump ou Putin falsos e suas figuras reais.

Quando considera-se a desconfiança ampla na mídia tradicional, instituições e especialistas em suas áreas, a falsidade dos áudios poderá causar um grande estrago. Poderia começar guerras. Imagine as consequências do áudio manufaturado de um líder mundial fazendo discursos bélicos, apoiados por um vídeo fabricado. Em 2018, os cidadãos – ou generais militares – poderão determinar o que é falso?

Traduzido do site Wired.

A internet alterou os significados de “Verdade” e “Confiança”

Quando crianças, sempre nos dizem para evitar estranhos. Hoje, no entanto, nos sentimos confortáveis em entrar no carro deles pelo Uber ou 99pop, ou de ficar na casa deles pelo Airbnb. Ao passo que nosso entusiasmo em confiar no próximo cresceu, ele diminuiu em relação às instituições, de bancos a governos à mídia. Por que isso está acontecendo, e o que tem a ver com a onipresença da tecnologia?

Esse é o assunto de um novo livro chamando Who Can You Trust? How Technology Brought Us Together – and Why It Could Drive Us Apart (“Em quem você pode confiar? Como a tecnologia nos uniu – e por que ela pode nos afastar”, em tradução livre), publicado em 14 de novembro pela PublicAffairs. Sua autora, Rachel Botsman, é uma palestrante visitante da Escola Saïd de Administração da Universidade de Oxford, e uma das maiores experts em confiança do mundo. Ela recentemente conversou com o site Futurism sobre o que aprendeu a respeito da confiança, por que essa mudança é diferente de outras no passado, e como evitaremos um futuro distópico.

E entrevista foi editada levemente em busca de maior claridade e brevidade.

Pergunta: De onde veio a inspiração para o livro? Você começa falando da crise financeira de 2008, mas tenho a sensação de que essa foi só a ponta do iceberg em termos da desconfiança em instituições.

Rachel Botsman: Em 2009, publiquei meu primeiro livro, What’s Mine is Yours (“O que é meu é seu”, tradução livre), sobre a economia do compartilhamento. A parte que sempre me fascinou foi como a tecnologia possibilitava a confiança entre completos desconhecidos na internet para fazer ideias que deveriam ser consideradas arriscadas, como compartilhar uma casa ou uma carona, se tornassem difundidas. E então imergi na busca por compreender como a confiança na era digital realmente funciona. Através dessa pesquisa, descobri que meu interesse era muito mais amplo – queria entender como colocamos nossa fé nas coisas, o que influencia onde colocamos essa fé, e o que acontece quando nossa confiança é enfraquecida em sistemas como o financeiro ou o político. Então, comecei a me perguntar se a atual crise de confiança em instituições e a alta da tecnologia facilitando a mesma entre estranhos estavam conectadas de alguma forma.

Isso levou ao que considero ser a ideia central desse livro: que a confiança está indo de instituições para indivíduos. Senti que isso era um livro importante e atual porque já estamos vendo as consequências profundas dessa mudança de confiança, da influência na eleição presidencial americana ao Brexit no Reino Unido, de algoritmos aos bots.

P: A confiança está sendo perdida ou simplesmente trocando de lugar?

R: Não gosto dessa narrativa de que a confiança está em crise. Na verdade, é perigosa porque só serve para amplificar o ciclo de desconfiança. Confiança é como energia – não é destruída, muda de forma. Você precisa de confiança na sociedade para as pessoas colaborarem, fazerem transações – até mesmo para sair de casa. Uma sociedade não pode sobreviver, e definitivamente não pode prosperar sem confiança. Por um longe tempo na história, a confiança fluiu para cima até os CEOs, estudiosos, acadêmicos, economistas e reguladores. Agora isso está sendo invertido – a confiança está fluindo para os lados, entre indivíduos, “amigos,” colegas e estranhos. Há muita confiança por aí, só está sendo depositada em locais e pessoas diferentes.

Também é falso dizer que precisamos de mais confiança. Claro, podemos ter confiança demais nas pessoas erradas, nas coisas erradas. Podemos ceder nossa confiança facilmente demais.

Confiança é como energia – não é destruída, muda de forma. – Rachel Botsman

P: Instituições, claramente, são feitas de pessoas, e por isso é meio engraçado que estamos menos dispostos a confiar nessas instituições. Onde esse desacerto acontece?

R: Acho que é uma questão de escala, uma sensação de que organizações e instituições além de uma determinada escala perdem sua humanidade. Também é um problema quando as pessoas dentro da organização sentem como se estivessem servindo ao sistema ao invés das pessoas. Um grande problema de confiança se instala quando o sistema se torna tão grande que não há como as intenções da organização, não importa o quão bons sejam seus empregados ou a cultura, estarem alinhadas aos usuários ou consumidores. Você vê isso na indústria bancária — mesmo que um banco em particular seja generoso, tenha uma boa cultura de trabalho e empregados competentes, é muito difícil que consumidores olhem para aquele banco com lucros inimagináveis e digam, “Ah, vejo que suas intenções estão alinhadas às minhas.”

P: Tomei nota de suas menções de programas de TV, romances e filmes distópicos. Há algo sobre esse momento que faça a distopia parecer particularmente relevante?

R: Você precisa ver minhas recomendações do Netflix! Estamos atualmente vivenciando um vácuo de confiança que surge quando nossa confiança em fatos e na verdade é continuamente questionada. Um vácuo de confiança é criado, e isso é perigoso. O vácuo é preenchido por pessoas com planos próprios, vendendo a si mesmos com maestria como anti-estabelecimento, e dizendo seja qual for a mentira que agrade às sensibilidades anti-elitistas atualmente sentidas pelas pessoas. O crescimento do “anti-político” — de Nigel Farage a Donald Trump — é um indicador de que a maior mudança de confiança vista em uma geração está acontecendo. Em um vácuo, nos tornamos mais suscetíveis e vulneráveis a teorias da conspiração, a vozes diferentes que sabem como falar com os sentimentos das pessoas ao invés de fatos, a essa nova e tóxica forma de transparência. Aqueles que coçam a cabeça porque o mais qualificado candidato da história perdeu [uma eleição] estão ignorando uma crescente desconfiança das elites, a inversão da influência e um crescimento ceticismo a respeito de tudo — da validade das notícias a uma profunda suspeita de sistemas políticos estabelecidos. Acho que as pessoas estão tentando entender a distopia que estamos vivendo.

P: O que torna esse momento diferente de outros momentos de desconfiança que tivemos no passado?

R: É claro, no passado tivemos grandes crises de confiança, como Watergate ou o escândalo do Estudo de Tuskegee. No entanto, há duas coisas que estão acontecendo que tornam este momento único. Para começar, há uma queda histórica de confiança em todas as grandes instituições, incluindo caridades e organizações religiosas. Se tornou sistêmico que as pessoas estejam perdendo a fé no estabelecimento e na elite. É como um vírus que está se espalhando, e rapidamente.

O segundo ponto óbvio é que a tecnologia amplifica nossos medos, frequentemente sem base alguma. As redes sociais “armam” a desinformação ao criar incêndios digitais que espalham ódio e ansiedade em relação às instituições. Também é muito mais difícil manter más ações escondidas ou encobrir ações com teatros de Relações Públicas. Tome como exemplo o fenômeno Weinstein que está acontecendo agora — isso ilustra a rapidez com que um incidente se torna uma crise social e, então, um movimento.

P: Conte-me um pouco sobre o sistema de crédito social chinês. Antes de ler o trecho daquele capítulo do seu livro no Wired UK, eu nunca tinha ouvido falar disso. Qual a sua opinião geral?
Nota do tradutor: há um texto bem compreensivo do The New York Times sobre esse assunto traduzido aqui no site. Clique aqui para ler.

R: O governo chinês tem suas pontuações sociais de cidadãos (SCS) que são voluntárias agora, mas serão obrigatórias após 2020. E há empresas na China, como a Tencent e a Alibaba, que têm seus próprios mecanismos de pontuação, mas são diferentes da forma que vemos as pontuações de crédito. Há uma distinção importante entre sistemas de pontuação do governo e de empresas.

O ponto interessante a se observar é como o governo posicionou a pontuação de cidadãos — a base lógica econômica por trás dela, como os mecanismos de recompensas foram a primeira parte apresentada, e então as penas que seguirão depois. Por exemplo, mais cedo este ano, mais de 6 milhões de chineses foram banidos de pegar voos. Além disso, a pontuação de cidadãos chineses será rankeada publicamente entre toda a população e usada para determinar a possibilidade de conseguir uma hipoteca ou um emprego, onde os filhos poderão ir à escola — ou mesmo a chance de conseguir um encontro. É obediência transformada em jogo.

P: Você fez a conexão a uma sociedade ocidental, como temos versões de um sistema como esse embora não tão extremas. Te parece provável que esse tipo de coisa se torne mais comum em outros sistemas e outros governos?

R: Sim, a parte mais difícil de entender o capículo sobre pontuação de confiança é que há uma tendência a observar esse sistema através de uma lente ocidental, fazer um julgamento rápido e concluir, “Bem, isso nunca aconteceria conosco. Só na China…” Mas hoje é na China, amanhã pode ser em um lugar próximo de você. Quando você investiga e analisa o nível de vigilância acontecendo no Ocidente, dos governos às empresas, e o quanto sabem sobre nós, é assombroso. Estamos sendo julgados e analisados de toda maneira imaginável, e nos sentiríamos extremamente desconfortáveis se soubéssemos. Veja a reação que tivemos quando descobrimos que a Agência Nacional de Segurança (NSA, EUA) estava escutando e coletando informações de cidadãos comuns. Os chineses poderiam argumentar que o sistema deles pelo menos é transparente. Ao menos as pessoas sabem que estão sendo avaliadas.

O que é inevitável é que nossa identidade e nossos comportamentos se tornarão um recurso. Acho que a pergunta é: quem será dono dos danos? Com sorte, chegaremos a um ponto onde seremos nós, como indivíduos, para que assim tenhamos maior controle sobre como os dados são usados e vendidos, e para que possamos usar isso em nosso benefício, ao contrário de uma empresa de tecnologia como o Google, Amazon ou Facebook ou, pior ainda, o governo tendo esse tipo de controle sobre nossas vidas.

Estamos sendo julgados e analisados de toda maneira imaginável, e nos sentiríamos extremamente desconfortáveis se soubéssemos. – Rachel Botsman

P: Você menciona rastreios e vigilância. É certamente algo que é muito mencionado no livro, e algo em que muitos de nós temos pensado. Qual a relação entre confiança e vigilância?

R: Bem, vigilância não é algo particularmente bom quando relacionado à confiança. Pense em um relacionamento interpessoal. Se um parceiro está lendo suas mensagens ou conferindo sua localização a todo momento, é um relacionamento de baixa confiança! Defino confiança como “um bom relacionamento com o desconhecido.” Se você confia na vigilância, deve haver fé de que os rastreios e dados capturados estão sendo usados para seu benefício. A parte complicada é a caixa preta quando você não sabe o que está havendo com sua informação, e não confia no sistema ou na entidade que gerencia os dados. É por isso que frequentemente ouvimos o pedido, “precisamos de mais transparência.” Mas quando precisamos que as coisas sejam transparentes, desistimos da confiança.

P: Onde se encaixa a inteligência artificial nessa mudança maior à confiança distribuída?

R: Falamos da confiança mudando de instituições para indivíduos. O indivíduo pode ser um ser humano, ou pode ser um robô com inteligência artificial. Será cada vez mais difícil poder dizer se você está interagindo com um ser humano ou um algoritmo. Decidir quem é confiável, receber a informação correta, e ler os “sinais de confiança” certos já são tarefas difíceis com outros humanos. Pense na última vez que te passaram a perna. Mas quando começamos a terceirizar nossa confiança aos algoritmos, como confiar em suas intenções? E quando o algoritmo ou o robô toma uma decisão por você com a qual você não concorda, a quem você culpará?

Capa do livro de Rachel Botsman.

P: O que está entre nosso presente a possibilidade desse futuro distópico que você insinuou? O que poderia prevenir que tudo fosse abaixo?

R: Empresas de tecnologia entrarão em uma nova era de prestação de contas. A ideia de que similares ao Uber, Facebook e Amazon estão imunes de serem regulamentados, taxados e complacentes, de que são apenas esses caminhos disruptivos para conectar pessoas e recursos, acho que esses dias acabaram. Haverá uma onda vasta de regulamentação que olhará para as responsabilidades das plataformas de reduzir o risco de coisas ruins acontecerem, e também na forma que respondem ao que der errado.

Algumas instituições usarão esse período de mudança como oportunidade — provando à sociedade de que precisamos de instituições, de que apresentam normas, regras e sistemas, e que podem ser confiáveis. Estamos vendo isso com o New York Times; teve seu melhor ano em assinaturas pagas. Mas instituições não podem apenas dizer, “Você deve confiar em nós.” Precisam demonstrar que são confiáveis, que podemos acreditar em seus sistemas.

P: Como você acha que essa mudança maior da confiança nos moldará daqui para a frente? Em como moldará nossa forma de gastar dinheiro e viver nossas vidas?

R: É muito fácil culpar as instituições, mas precisamos reconhecer que, como indivíduos, temos a responsabilidade de pensar sobre onde depositaremos nossa confiança e com quem. Com muita frequência, deixamos que a conveniência fique acima da confiança. Por exemplo, se queremos uma mídia jornalística de alta qualidade e com checagem de fatos, deveríamos pagar por ela, e não obter nossas notícias diretamente do Facebook. Somos todos culpados disso. Eu estava conversando com alguém outro dia que dizia o quanto odiava o Uber, de como era “Uma empresa diabólica,” e educadamente perguntei se o aplicativo estava no aparelho dele. “Bem, ainda não tive o tempo de apagar e baixar o Lyft,” ele respondeu na defensiva. Levaria um minuto [fazer isso]. É como o cidadão que reclama do resultado de uma eleição sem ter votado. Então, minha esperança é de que usemos nossa revolta de forma produtiva. Temos mais poder do que imaginamos com essa mudança da confiança, com ela parecendo tão grande e fora de controle.

P: Então, qual a resposta ao título do seu livro? Em quem pode-se confiar?

R: É uma pergunta complicada. Depende do contexto; você pode confiar nas pessoas para fazer certas coisas em certas situações. Com isso, quero dizer que pode confiar no Trump para twittar algo ridículo na madrugada, mas não para negociar com a Coreia do Norte. Você pode confiar em mim para ensinar ou escrever um artigo, mas não deveria entrar em um carro comigo porque sou péssima motorista. Quando estamos falando de confiança, precisamos muito falar sobre o contexto. Espero que, depois de ler meu livro, as pessoas estejam melhor equipadas para dar uma “pausa de confiança,” para se perguntar: essa pessoa, produto, empresa ou informação são merecedores da minha confiança?

Entrevista traduzida do site Futurism.

O Walmart está contratando… robôs

Resumo:

O Walmart está adicionando a mais de 50 lojas nos EUA robôs autônomos que escaneiam produtos. A ação tem o objetivo de facilitar as compras, dar mais tempo aos empregados e resolver o problema de falta de estoque.

O Walmart está adicionando robôs à sua força de trabalho, medida dentro do seu objetivo de se tornar a vitrine do mundo moderno.

A marca está testando os robôs em várias lojas dos estados de Arkansas, Pensilvânia e Califórnia, onde são usados para tarefas “repetitivas, previsíveis e manuais.” Os robôs de 0,61 m são ocupados com uma torre e várias câmeras, e vão para cima e para baixo dos corredores procurando por itens que não estão em estoque, identificando preços incorretos e tomando nota de rótulos errados ou que estão faltando. Os dados são então passados para os empregados, que estocam os itens e corrigem os erros.

Os testes iniciais dos robôs deram certo o suficiente para o Walmart expandir sua frota de robôs para outras 50 lojas pelo país. O Business Insider relata que essa expansão será finalizada em janeiro de 2018.

Robô escaneador. Créditos: Walmart

Em conversa com a Reuters, o chefe de tecnologia do Walmart, Jeremy King, disse que os robôs são 50% mais produtivos que empregados humanos, mais precisos ao escanear e três vezes mais ágeis. Apesar da eficiência, King informou que não substituiriam empregados humanos — um alívio para qualquer empregado que esperasse que mais empregos seriam cortados em nome da automação.

Em um post detalhando o anúncio, o diretor de comunicações, Justin Rushing, disse que os robôs “liberam mais tempo para nossos funcionários focarem no que dizem ser a parte mais importante e excitante de trabalhar no Walmart – servir clientes e vender mercadorias.”

Melhorando a experiência de comprar

O Walmart vê os escaneadores autônomos como uma solução para o problema de falta de estoque. Itens não disponíveis significam a perda potencial de uma venda quando alguém não consegue achar determinado produto. Ter humanos escaneando itens também se prova difícil, por ser uma tarefa entediante que a maioria não gostaria de fazer.

“Se você está indo e voltando do corredor e quer decidir se estamos sem salgadinhos ou não, um humano não faz esse trabalho muito bem, e muito menos gosta de fazê-lo,” disse King.

A incorporação de robôs também é parte de um esforço maior de facilitar as compras. Ela vem depois de uma recente parceria firmada com o Google para ir de frente com a Amazon e o lançamento de um novo serviço de entregas que permite que motoristas entregadores entrem na casa das pessoas. De acordo com a Reuters, a empresa também “digitalizou operações como farmácias e serviços financeiros nas lojas.”

Walmart não é a primeira empresa a usar robôs, no entanto. A Amazon tem usado robôs Kiva em seus depósitos desde 2014, e os depósitos do Alibaba têm visto cada vez mais produtividade desde que passaram a usar seus próprios robôs.

Espera-se que a inteligência artificial e os robôs ameacem alguns empregos dentro de 5 anos. No entanto, se as empresas acharem formas de ter humanos e robôs trabalhando juntos – como fez o Walmart – pode ser o suficiente para evitar um futuro sem empregos.

Traduzido por Cláudio Ribeiro do site Futurism.