AeC

Relacionamento com Responsabildade

Notícias

Inovação

Por uma Inteligência Artificial segura

Google estabelece cinco regras para o bom uso da IA

 

Ao mesmo tempo que fascina, o desenvolvimento da Inteligência Artificial assombra. Isso porque ninguém sabe o que pode vir a acontecer quando ela estiver em um estágio bastante avançado. E aí ela pode nos escravizar? Nos aniquilar? Preocupado com isso, o Google, junto com cientistas das Universidades de Stanford e Berkeley e também da organização OpenAI, produziram um documento em que 5 princípios foram destacados para o desenvolvimento saudável de um sistema de Inteligência Artificial. 

São eles:

Evitar efeitos negativos

Imagine um robô programado para limpar a sua casa, que, à medida em que realiza suas funções, vai aprendendo novas maneiras de fazê-las. E se ele descobrir que, quebrando o vaso de flores do canto da sala, ele conseguirá cumprir sua missão mais rapidamente?

Evitar trapaças para obtenção recompensas

Imagine agora um robô programado para sentir prazer por arrumar sua casa. Agora imagina se ele começar a bagunçá-la de propósito para arrumá-la novamente e poder sentir aquele prazer de novo. E de novo. E de novo. E de novo...

Exploração segura

Imagine que o robô que está limpando a sua casa agora está explorando novas maneiras de limpá-la. Ótimo, certo? Certo, desde que ele não explore comportamentos suicidas, como, por exemplo, usar um esfregão molhado em uma tomada elétrica.

Robustez para mudanças distribucionais

Imagine que o robô que você comprou para limpar sua casa foi treinado em uma fábrica. Ele irá reconhecer que os ambientes são diferentes e, portanto, se comporte de maneira robusta naquele em que ele foi desenvolvido?

Supervisão escalável

Robôs equipados com IA, além de aprenderem sozinhos, também recebem feedbacks dos humanos para otimizar suas atividades. Assim, ele deve ser programado para receber e entender e processar um feedback apenas uma vez. Senão, é bem provável que ele pare o que está fazendo constantemente só para obter um feedback que já pode ter sido dado uma, duas, três mil vezes.