Especialista alerta para "ameaça dos algoritmos"

Autor Mensagem
AnaClara
Veterano
# ago/11


Serviços inteligentes

Um especialista em algoritmos alertou para as consequências da influência cada vez maior dos sistemas de códigos operacionais em diversos aspectos da vida das pessoas.

Em uma palestra durante a conferência TED no mês de julho, na Escócia, o americano Kevin Slavin disse que "a matemática que os computadores usam para decidir as coisas" está se infiltrando em diferentes áreas as nossas vidas.

Slavin disse que os "serviços inteligentes" oferecidos por lojas de internet - que calculam livros e filmes nos quais o cliente pode estar interessado -, por sites como o Facebook e pelos mecanismos de busca como o Google comprovam que operações computacionais complexas e invisíveis controlam cada vez mais a relação das pessoas com o mundo eletrônico.

Como exemplos, ele citou um "robô-faxineiro" que mapeia a melhor maneira de realizar os afazeres domésticos e os algoritmos que estão gradualmente controlando os negócios em Wall Street e o mercado financeiro.

"Estamos escrevendo coisas que não podemos mais ler", alertou o especialista. "Nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos", disse ele.

Livro milionário

De acordo com Slavin, o caso recente de erro nos algoritmos usados pela livraria online Amazon é um dos principais exemplos do caos que pode ser instalado quando um código se torna inteligente o suficiente para operar sem a intervenção humana.

No início do ano, o algoritmo que regula os preços da loja de livros pareceu entrar em guerra consigo mesmo.

Os valores dos produtos começaram a aumentar em competição uns com os outros e um dos livros, The Making of a Fly (A construção de uma mosca, em tradução livre) - um livro sobre a biologia molecular de uma mosca - chegou a custar US$ 23,6 milhões (R$ 37,7 milhões).

Slavin afirma que, na medida que os códigos matemáticos se tornam mais sofisticados, eles se infiltram até mesmo em nossas preferências e decidem que produtos culturais estarão disponíveis para nós.

Decidindo as vidas virtuais

A empresa britânica Epagogix está levando este conceito a sua conclusão lógica e usando algoritmos para prever o que faz com que um filme seja um sucesso de bilheteria.

O sistema usa uma série de medidas - o roteiro, a trama, os atores, as locações - e os cruza com as bilheterias de outros filmes similares para prever quanto dinheiro o novo produto irá ganhar.

De acordo com o diretor-executivo da empresa, Nick Meaney, o código "ajudou estúdios a tomarem decisões sobre fazer ou não fazer um filme".

No caso de um dos projetos - para o qual foi estipulado um custo de produção de 180 milhões de libras (R$ 473 bilhões) - o algoritmo estimou que o filme ganharia somente cerca de 30 milhões de libras nas bilheterias, o que significava que não valia a pena fazê-lo.

No entanto, Meaney diz que o papel dos algoritmos na indústria cinematográfica não é tão grande.

"Filmes são feitos por diversas razões e dizer que nós ditamos que filmes são feitos nos dá mais influência do que temos", disse.

Negócios automáticos

De acordo com Kevin Slavin, até 70% das transações de Wall Street hoje são conduzidas por algoritmos, no que é chamado de "caixa-preta" ou "algo-negócio".

Isso significa que, além de negociantes especializados, banqueiros e corretores agora empregam também milhares de matemáticos e físicos.

Mas Slavin diz que, mesmo com o auxílio de técnicos e especialistas, um algoritmo fora de controle foi o responsável pela chamada "quebra-relâmpago" do dia 6 de maio de 2010, em que uma queda de cinco minutos nas bolsas de valores causou um caos momentâneo.

Um negociador que agiu de má-fé foi considerado o culpado pela queda de 10% no índice Dow Jones mas, na realidade, a culpa era do programa de computador que ele estava usando.

O algoritmo vendeu 75 mil ações com um valor de 2,6 bilhões de libras em somente 20 minutos, fazendo com que outros sistemas de negociação rápida fizessem o mesmo.

A partir deste episódio, os reguladores foram forçados a introduzir mecanismos que interrompem as negociações se as máquinas começarem a se comportar de modo incorreto.

Para Slavin, na medida que os algoritmos expandem sua influência para além das máquinas, é chegada a hora de saber exatamente o que eles sabem e se ainda há tempo de domá-los.

Fonte

AnaClara
Veterano
# ago/11
· votar


Tenho medo da invasão robô

Simonhead
Veterano
# ago/11
· votar


AnaClara

Tipo Terminator?

Ian Anderson
Veterano
# ago/11
· votar


acho q essa varrida em nossos dados eh uma falta de respeito

mas acho q isso ewh meio utopia



Bob Mauley
Veterano
# ago/11
· votar


Nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos

Ja li uma materia que abordava esse assunto uma vez, e, pelo que me lembro ela nao afirmava isso, mas faz um tempinho ja eu nem lembro de detalhes

Mas é meio estranho dizer que o homem esta perdendo o controle do que ele propio inventou, acho que isso ainda está bem longe de acontecer realmente

AnaClara
Veterano
# ago/11
· votar


Bob Mauley

Você escreveu algo sério em um dos meus tópicos





O_O



Simonhead

Nunca ouvi falar disso.

Bob Mauley
Veterano
# ago/11
· votar


AnaClara
E isso é bom ou ruim?
É que eu conheci um cara que ficava pensando em teoria de conspiraçao robo e morreu.

AnaClara
Veterano
# ago/11
· votar


Bob Mauley

Isso é bom. Eu acho.

É que eu conheci um cara que ficava pensando em teoria de conspiraçao robo e morreu.

Ainda bem que era um cara, e eu sou mulher.

AnaClara
Veterano
# ago/11 · Editado por: AnaClara
· votar


=)

Bog
Veterano
# ago/11
· votar


AnaClara

Eu trabalho diretamente com inteligência computacional, então posso dizer que sei como essas coisas funcionam por dentro. Além disso, meu doutorado apliquei esse tipo de coisa em um problema de detecção de falhas. Com base nisso, posso dizer que:

1. Esses algoritmos às vezes só implmentam modelos complexos e os aplicam em tempo real. Mas os modelos em si independem dos computadores. Os horários dos ônibus, por exemplo, antigamente eram montados com base em modelos matemáticos feitos em papel mesmo. Os modelos econômicos também eram assim. Isso quer dizer que muito antes dos computadores, já existiam decisões importantes sendo tomadas com base em modelos matemáticos. Além disso, há decadas existem sistemas sendo controlados automaticamente - por exemplo, os trens-bala foram criados nos anos 60 e SEMPRE foram operados desta forma (eles correm rápido demais para serem guiados por humanos). O tráfego aéreo também é controlado por computador há décadas. O que mudou hoje em é a complexidade dos modelos e a quantidade de situações em que eles são aplicados. Com isso, aumentam as chances de algo sair errado.

2. A questão da "invasão" dos computadores "inteligentes" é menos aterrorizante do que pode parecer à primeira vista.

3. Muita gente parece ignorar o fato de que qualquer sistema é sujeito a falhas. Em especial, sistemas baseados em inteligência computacional são inerentemente imperfeitos, visto que essas técnicas são usadas exatamente para tratar de problemas complexos demais para serem atacados por soluções ótimas (i.e. que garantem sempre o melhor resultado). Existem técnicas para minimizar os erros, mas por razões econômicas ou por pura ignorância dos que trabalham fazendo/usando estes sistemas, elas acabam sendo deixadas de lado.

4. Vale lembrar que a afirmação acima, de que qualquer sistema é sujeito a falhas, também vale para sistemas que NÃO incluem computadores. Sim, algoritmos inteligentes podem falhar. Mas modelos baseados em continhas feitas no papel também. E nem preciso falar dos sentidos e julgamentos humanos...

ZakkWyldeEMG
Veterano
# ago/11
· votar


"Estamos escrevendo coisas que não podemos mais ler", alertou o especialista. "Nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos", disse ele.

pessoalzinho fica faltando as aulas de eng. de software em especial as partes de certificação/teste ou até TDD dá nisso =)

pohas, agora nem poderei estudar metodologias de controle e aprendizagem em arranjos distribuídos descentralizados compostos por entidades robóticas só pq eles podem, eventualmente, dominar o mundo pq esqueci de inicializar uma variável no programa =P

Simonhead
Veterano
# ago/11
· votar


Bog

Belo post, meu caro! \o/


AnaClara
Nunca ouvi falar disso.

Terminator? Sério isso?

Cool_Licker
Veterano
# ago/11
· votar


If Control.Lost == True
{
Kill.Me;
}

Nossos problemas foram resolvidos uahhuahuahuahuhuaa

AnaClara
Veterano
# ago/11
· votar


Bog

Obrigada pelo post de esclarecimento. Pra quem tá de fora, uma matéria sensacionalista como essa pode assustar.

Simonhead

Seríssimo!

Cool_Licker

Odeio essas piadas que você faz e que eu não entendo.

russobass
Veterano
# ago/11
· votar


Tiro da tomada, acabo a pilha, removeu a bateria, acaba tudo e pronto.

Benva
Veterano
# ago/11
· votar


Cool_Licker
If Control.Lost == True
{
Kill.Me;
}

Nossos problemas foram resolvidos uahhuahuahuahuhuaa


AnaClara
Odeio essas piadas que você faz e que eu não entendo.



Nossa, eu vou falar uma coisa: foi uma puta piadinha de nerd, mas eu entendi! Uhauhauhauhauhaah

AnaClara
Veterano
# ago/11
· votar


Benva

Eu não sou nem um pouco nerd nesse sentido. Entendo nada de sistemas nem nada

Eu boio toda vez que voces conversam sobre isso no conselho.

Cool_Licker
Veterano
# ago/11
· votar


Benva
AnaClara

Eu inventei a cura para a invasão robo auhhuahuaa ao meu lado estão a salvo

Benva
Veterano
# ago/11
· votar


AnaClara
Cool_Licker

Cara, acho que poderia mudar pra Kill.Myself

Suicídio true... uuhauahua

Benva
Veterano
# ago/11
· votar


E com relação ao tópico, não consigo pensar em nada depois do post do Bog. uahuahuhaau

AnaClara
Veterano
# ago/11
· votar


Cool_Licker

Ficarei ao seu lado, ok?

Benva

suahsuahusa!

The Blue Special Guitar
Veterano
# ago/11
· votar


Palhaçada, isso não faz sentido.

Cool_Licker
Veterano
# ago/11
· votar


Benva

elaborando um pouco

If Control.Lost
{
Kill.Myself(HeadShot);
}

ahuhuahuauhauh

AnaClara

tirou essa materia la daquele site?

AnaClara
Veterano
# ago/11
· votar


Benva

Eu pensei. e tenho uma duvida que eu queria perguntar, mas nao sei como formular :S

AnaClara
Veterano
# ago/11
· votar


Cool_Licker

é uai, a fonte ali.

Benva
Veterano
# ago/11
· votar


Cool_Licker

If Control.Lost
{
Kill.Myself(HeadShot);
}


Agora sim! Uhauhauahuahuahuah

Henry Chinaski
Veterano
# ago/11
· votar


No momento preocupa-me mais a invasão dos macacos, em cartaz já, btw.

qew
Veterano
# ago/11 · Editado por: qew
· votar


Cool_Licker
Benva

hauehuaehhuaehauehaue

viniciusra
Veterano
# ago/11
· votar


um dia lerei esse tópico.

Ian Anderson
Veterano
# ago/11
· votar


AnaClara
e exterminador do futuro?

If Control.Lost == True
{
Kill.Me;
}


trad.
Se PerderControle = Verdadeiro
{ mate-me;
}

vc tem matéria de logica no teu curso?

Enviar sua resposta para este assunto
        Tablatura   
Responder tópico na versão original
 

Tópicos relacionados a Especialista alerta para "ameaça dos algoritmos"