Potenciais Problemas na Computação Afetiva

Potenciais Problemas na Computação Afetiva

Introdução

Será um absurdo a idéia de que computadores reconheçam, expressem e tenham emoções? Computadores não deveriam representar lógica, racionalidade? Para muitos pensadores, esses paradigmas são a base da inteligência, e têm sido o foco de cientistas da computação trabalhando intensamente para construir uma máquina inteligente. No entanto, depois de quase meio século de pesquisa, cientistas não conseguiram construir uma máquina que possa lidar de modo inteligente com problemas difíceis, ou que possa interagir de modo inteligente com pessoas.

Há três décadas atrás, Herb Simon, escrevendo sobre a base da cognição, enfatizou que uma teoria geral de pensamento e resolução de problemas deve incorporar as influências da emoção. De fato, os campos da teoria emotiva, neurociência, ciência cognitiva e psicologia indicam que emoções têm um papel importante nas capacidade de atenção, planejamento, aprendizado, tomada de decisões, entre outros exemplos.

A computação afetiva é uma área que trata da emoção em computadores. Esse ramo da ciência inclui a interação humano-máquina; computadores poderiam ser capazes, por exemplo, de expressar uma dada emoção de acordo com o humor do usuário, sendo tal humor também reconhecido pela máquina.

Os parágrafos anteriores indicam que a computação afetiva pode ser fundamental para a construção de uma máquina realmente inteligente. Mas problemas podem surgir com a capacidade de máquinas de reconhecer e/ou expressar emoções. Alguns desses problemas serão abordados a seguir.

Inícios Imaturos

Suponha que um amigo seu perceba que vocês está triste, e que ele quer te alegrar. Ele pode te chamar para fazer alguma coisa, por exemplo - ou, ele pode apenas te ouvir. Se um agente de software percebesse que seu usuário está triste, ele poderia - mas não deveria - agir de modo imaturo, por exemplo "bombardeando" o usuário com mensagens do tipo "Se anime!" ou vendendo o nome do usuário a publicitários os quais por sua vez poderiam incomodá-lo com mensagens do tipo "Beba esse refrigerante para você sentir melhor, mais positivo!".

Outros exemplos de início imaturo poderiam incluir:

- Agentes com faces que provocam muita distração;

- Máquinas com muita inflexão vocal;

- Expressões que te fazem bem no início mas que passam a incomodar algumas semanas depois.

É claro que, depois de um tempo, o agente poderia ser capaz de ser alterado e/ou de alterar a si mesmo ao ponto de não mais agir de modo imaturo e inconveniente.

Privacidade Humana

Computadores afetivos podem obter acesso as nossas vidas emocionais - informações que podem ser altamente pessoais, íntimas e privadas. Eles poderiam potencialmente construir modelos dessas informações por longos períodos de tempo, e tais modelos poderiam ser particularmente vendidos, por exemplo, em processos, questões de seguros e por funcionários. Informação afetiva deve ser tratada com respeito e cortesia, e sua privacidade preservada de acordo com as preferências dos humanos envolvidos.

Detecção de Mentiras

É possível que algumas pessoas, em determinadas situações, não queiram que suas falsidades sejam reconhecidas. Um computador afetivo, no entanto, poderia observar mudanças no modo

de uma pessoa se expressar, e podendo detectar que a pessoa está mentindo (por exemplo, durante uma vídeo-conferência).

Computadores Agindo Emocionalmente

Há várias razões positivas para se buscar o desenvolvimento de robôs e de agentes de software, e outras formas computacionais que iriam realmente "ter emoções", com isso implicando que o computador tem mecanismos para implementar componentes emotivos. No entanto, seu desenvolvimento levanta o seguinte dilema: podemos criar computadores que irão reconhecer e expressar afeto, exibir criatividade, resolver problemas de modo inteligente, expressar empatia e nunca colocar pessoas em situações de perigo por agirem emocionalmente? É possível ter o bom sem o mal?

Um exemplo de uma máquina emocional agindo de modo furioso ocorre no clássico da ficção científica 2001 - Uma Odisseia no Espaço. Um computador HAL 9000 é o cerébro e o sistema nervoso central da nave Discovery. O computador, que prefere ser chamado de HAL, tem habilidades de percepção que emulam aquelas de um ser humano. HAL é uma verdadeira "máquina pensante", no sentido de ser capaz de imitar as funções cognitivas e emocionais humanas. Em um diálogo do filme, Bowman diz que HAL age como se tivesse emoções genuínas, e que, é claro que ele foi programado dessa forma para facilitar o contato deles com pessoas. Bowman diz também achar que, no entanto, ninguém poderia dizer se HAL tem sentimentos verdadeiros. Em particular, o filme mostra que HAL é capaz de expressar e perceber emoção. Em dois trechos traduzidos do filme, ele diz:

1. "Eu me sinto muito melhor agora."

2. "Olha, Dave, eu posso ver que você está realmente chateado com isso"

Mas HAL vai além desse ponto. No filme, HAL parece ter medo de ser desconectado, indicando isso por exemplo pelo seu comportamento. HAL parece agir emocionalmente quando mata todos os membros da tripulação com exceção de um. HAL tem assim o poder de matar um ser humano.

 

Referências

[1] PICARD, Rosalind W. Affective computing