O promotor de Justiça Sauvei Lai publicou, nesta quinta-feira (13), no site jurídico Jota, o artigo “A personificação eletrônica da Inteligência Artificial é necessária?”. O texto trata do debate sobre o papel da IA como causadora de danos e como as preposições da personificação eletrônica podem proteger a humanidade das ações potencialmente nocivas dessas entidades autônomas.

Leia Mais: Inscrições para 28ª Conferência Anual da IAP continuam abertas

Webinário do Gympass explica como aproveitar a parceria

Após citar os prós e contras da personificação eletrônica da IA, Sauvei Lai alerta sobre “a dificuldade da responsabilidade compartilhada ou distribuída entre designers de robôs, engenheiros, programadores, fabricantes, investidores, vendedores e usuários, identificando para cada um sua proporção devida”. E acrescenta: “Por isso que, diante dessa complexidade, seria mais simples, para alguns, atribuir personalidade jurídica à Inteligência Artificial”.

Leia o artigo no Jota ou abaixo, na íntegra:

A personificação eletrônica da Inteligência Artificial é necessária?

Por Sauvei Lai

A personalidade jurídica de pessoas naturais e de pessoas jurídicas é a aptidão delas à titularidade de direitos e obrigações, vale dizer, de serem sujeitos de uma relação jurídica, e não objeto.

Atribuir e reconhecer personalidade jurídica (ou eletrônica) aos entes dotados de Inteligência Artificial (IA) apenas se justifica para a promoção de interesses e de valores relevantes à realidade social e ao ordenamento jurídico.

Quais são esses interesses e valores no caso da Inteligência Artificial?

A doutrina, sobretudo estrangeira, aponta as duas principais questões: (1) a ampliação da reparação do dano decorrente da sua atividade; e (2) o merecimento de tutela jurídica em virtude da aquisição de certas qualidades humanas, como aparência humanóide, comunicação em linguagem natural e sensibilidade moral.

A Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica (2015/2103 – INL) manifesta preocupação, no considerando AD, a fim de assegurar a responsabilidade civil pelos danos causados por entidades providas de Inteligência Artificial[1].

Alguns escritores vão mais longe e defendem a imputabilidade criminal para julgar robôs, punindo-os por meio de reprogramação ou, em casos extremos, destruição.

Necessidade de personificação das pessoas jurídicas

Para compreender esses novos dilemas, é preciso retroagir um pouco. Quais foram os motivos de se reconhecer a subjetivação das pessoas jurídicas?

A personalidade das pessoas jurídicas representa apenas um meio, para amparar valores e interesses, em especial a conveniência que proporciona à consecução das suas finalidades fundadoras, perseguidas por pessoas naturais que delas participam. Para tanto, confere não apenas subjetividade própria, mas também patrimônio, riscos e responsabilidade pelas obrigações contraídas, independente dos seus membros, de modo a permitir que elas celebrem contratos, adquiram bens, assumam obrigações e sejam responsabilizadas por suas ações com estímulo ao empreendedorismo e à continuidade da atividade econômica, que persiste, mesmo com mudanças na composição dos seus integrantes. Assim, se a pessoa jurídica é capaz de colher benefícios, deve, da mesma forma, ser capaz de responder pelos danos produzidos.

Por outro lado, é importante notar que, quando se nega a atribuição de personalidade jurídica para uma entidade, isso não significa a sua reprovação pela ordem jurídica ou a crença de que aquela merece uma proteção menor. Tome como exemplo o condomínio edilício e o espólio, que, independentemente de personalidade jurídica, são dotados de direitos e obrigações, além da capacidade processual. Não gozam de personalidade jurídica por um simples motivo, que envolve a realidade social, a tradição e a técnica jurídica, bem como a escolha do legislador: a sua personificação não é necessária, porque já são instrumentos eficazes de promoção de interesses juridicamente relevantes de pessoas naturais, sem que precisem de subjetividade própria com patrimônio, responsabilidade e vontade autônoma em relação a essas pessoas.

É sob essa perspectiva que devemos discutir a atribuição da personalidade jurídica aos entes dotados de inteligência artificial, e não por causa de pretenso merecimento de tutela, cuja personificação não é o único instrumento adequado. Tampouco pelo antropomorfismo, que nunca foi justificativa para a criação das pessoas jurídicas, mas sim em virtude da necessidade ou não dessa técnica jurídica para a promoção de interesses, valores e finalidades relevantes à sociedade e ao ordenamento.

A legislação deve buscar a distinção entre sujeitos e interesses a serem tutelados, dosando o nível de proteção para cada situação, como fez com os condomínios edilícios e espólios, dando-lhes capacidades necessárias e suficientes para a consecução de suas finalidades, sem atribuir-lhes necessariamente personalidade.

Personificação jurídica da Inteligência Artificial para fins de responsabilidade civil

A Inteligência Artificial constitui uma entidade autônoma, cuja interação ordinária com o meio, independe da intermediação humana, seja para expressar sua vontade (como as pessoas jurídicas), seja para representá-la (como o espólio).

Em 2014, por exemplo, a empresa de capital de risco Deep Knowledge Ventures, em Hong Kong, nomeou o programa de computador Vital para seu Conselho Administrativo[2], mas, os veículos autônomos realmente são a principal fonte de preocupação nos dias de hoje por causa dos acidentes de trânsito decorrentes da autopilotagem.

Todavia, existe uma série de entidades dotadas de Inteligência Artificial e de autonomia que podem causar sérios danos, a exemplo dos drones militares, de segurança e civis, robôs médicos ou assistentes de idosos ou de doentes, caminhões e navios automatizados, algoritmos de processamento e de análise de dados estáticos, imbuídos de vieses, que provocam prejuízos às pessoas em situações de negativa de emprego, cálculo indevido de seguro de carro e até projeção de índice de reincidência (Correctional Offender Management Profiling for Alternative Sanctions)[3], exigindo um exame constante da arquitetura ética e jurídica necessária para o emprego dessa tecnologia.

Nota-se que o debate acerca da Inteligência Artificial é, por ora, sobre o seu papel como causador de danos. Portanto, diferente das propostas de subjetivação política dos animais, rios e da natureza, como fez o art. 10 da Constituição equatoriana (La naturaleza estará sujeita a aquellos derechos que le reconozca la Constitución), que procuram ampará-los contra a atuação humana, as preposições da personificação eletrônica visam a proteger a humanidade contra a sua ação potencialmente nociva.

Um dos principais objetivos da atribuição de personalidade jurídica aos entes providos de Inteligência Artificial seria a reparação dos danos causados, porém, isso levaria, na realidade, à diminuição da responsabilidade das pessoas envolvidas na atividade do desenvolvimento, da programação, da fabricação, do comércio, da manutenção e do uso, transferindo o risco àqueles e gerando resultado inverso do pretendido. A técnica da personificação eletrônica, na verdade, limitará a responsabilidade dos programadores, engenheiros, desenvolvedores, fabricantes, comerciantes e usuários, protegendo-os da exposição ao risco.

Talvez, um modelo mais apropriado seria responsabilizar os agentes envolvidos, colocando o robô apenas como garantidor subsidiário à reparação das vítimas e afetando patrimônio suficiente e proporcional à potencialidade danosa da tecnologia, porque a personificação jurídica daqueles certamente despertaria novas dúvidas sobre a real isenção dos primeiros, além do debate acerca da “desconsideração da personalidade eletrônica”.

No séc. XIX, a humanidade vivenciou a revolução industrial e a consequente expansão dos danos derivados das operações subjacentes, resultando na adoção de um sistema de responsabilidade objetiva da culpa, a fim de facilitar e agilizar a reparação do dano às vítimas. Adotou-se também regimes securitários voluntários e, às vezes, compulsórios para essas atividades, uma solução que pode ser estendida às questões de Inteligência Artificial, ao lado da criação de fundos de compensação nos casos não cobertos pelo seguro, como prevê o art. 59.b da Resolução do Parlamento Europeu, de 16 de fevereiro de 2017. Da mesma forma que esses cuidados não inviabilizaram economicamente a revolução industrial do séc. XIX, provavelmente isso não ocorrerá agora.

Para o parlamento europeu, os fundos especiais de compensação serviriam sobretudo às novas atividades danosas aprimoradas após o processo de autoaprendizagem, não previstas quando da criação da tecnologia. De fato, os problemas oriundos do nexo causal deverão ser enfrentados pela legislação e pelos operadores do Direito, para definir os limites da causalidade jurídica, independente da personificação ou não dos entes dotados de Inteligência Artificial. Contudo, não se ignora a dificuldade da responsabilidade compartilhada ou distribuída entre designers de robôs, engenheiros, programadores, fabricantes, investidores, vendedores e usuários, identificando para cada um sua proporção devida. Por isso que, diante dessa complexidade, seria mais simples, para alguns, atribuir personalidade jurídica à Inteligência Artificial.

Por outro lado, os sistemas de Inteligência Artificial já conseguem redigir petições jurídicas, escrever reportagens, compor músicas, pintar quadros com singularidade própria, entre outras atividades geradoras de valor, levantando dúvidas acerca das proteções da lei de direitos autorais. Em dezembro de 2019, um tribunal distrital de Shenzhen, na China decidiu que um artigo financeiro, produzido pelo algoritmo Dreamwriter com “lógica clara e certa originalidade” e publicado pela Tencent, não poderia ser copiado pela Shanghai Yingxun Technology Company sem permissão, de modo que a empresa infratora foi condenada a pagar ¥ 1.500 (US$ 216) por “perdas econômicas e proteção de direitos” em favor da empresa desenvolvedora[4]. Vê-se que, por enquanto, os direitos autorais não podem ser propriedade de sistemas de Inteligência Artificial, mas não há necessidade disso para se reconhecer a sua criatividade. A mesma lógica se aplica nos casos de invenções patenteáveis.

Personificação eletrônica para a dignidade de seres autônomos

Outro argumento para a personificação eletrônica seria a tutela jurídica para esses entes providos de Inteligência Artificial diante do potencial desenvolvimento de sentimentos, consciência, livre-arbítrio e interesses próprios.

Uma situação parecida com a tentativa de personificação de animais, rios ou natureza, que se reveste mais de um simbolismo do que resposta útil, prática e eficaz para a sua tutela e proteção.

Por outro lado, sabe-se que a personalidade, no sentido da valoração da dignidade humana, é um fenômeno histórico recente, após o testemunho das atrocidades do séc. XX que culminou na promulgação da Declaração Universal dos Direitos do Homem da Organização das Nações Unidas, em 1948, assegurando uma tutela jurídica prioritária e universal aos seres humanos. É esse ideal de personalidade que ilumina o art. 1º, III, da Constituição Federal de 1988 e do qual não gozam as pessoas jurídicas, mesmo dotadas de personalidade na acepção de subjetividade e de titularidade de direitos e obrigações.

No entanto, é válido lembrar que no curso da História muitos humanos tiveram sua personalidade negada ou restringida, como os escravos e as mulheres. Ainda hoje, as pessoas naturais só usufruem de plenos direitos e deveres se forem maiores de idade, sãs e não encarceradas ou refugiadas.

Assim, a comparação entre robôs e pessoas naturais reclama cautela. Muitos sustentam que os sistemas de Inteligência Artificial são mais inteligentes do que crianças, pessoas com deficiência intelectual ou em coma. Aliás, essa comparação também é feita pelos defensores da personificação dos animais, contudo, parecem esquecer que a técnica da subjetivação jurídica não traz na sua essência qualquer juízo de valor do ente personificado, mas o reconhecimento de uma realidade social e a utilidade prática da subjetivação jurídica.

Por sinal, tentar atribuir personalidade jurídica a entes apenas em virtude de suas pretensas semelhanças com as pessoas naturais atenta contra a historicidade da dignidade humana kantiana, que veda a redução ou a equiparação de pessoas a coisas.

Cabe ao legislador esquivar-se dessa comparação, atribuindo a subjetividade jurídica a entes não humanos apenas quando essa técnica satisfizer finalidades juridicamente dignas de tutela, como às pessoas jurídicas, e não por sua semelhança com o homem ou por juízo de valor.

Num cenário futurístico, uma questão tormentosa ocorrerá com o surgimento de sistemas de superinteligência, ou seja, detentoras de intelecto superior ao desempenho cognitivo humano em praticamente todos os domínios relevantes e capazes de prever e evitar intervenções humanas para desligá-los, inclusive com a possibilidade de se voltar contra nós, afastando a primeira lei de Asimov[5]. Portanto, alguns autores apontam a necessidade de garantir que essa superinteligência esteja alinhada aos nossos próprios valores morais e padrões éticos. Existem mais dúvidas do que certezas. Esses valores morais e padrões éticos podem ser incorporados ao código desses sistemas? A racionalidade da Inteligência Artificial permitirá o aprendizado da socialização? Conceder personalidade jurídica aos sistemas de Inteligência Artificial no curto prazo servirá como proteção eficaz contra os riscos de a superinteligência nos controlar ou nos eliminar?

Alcançada a igualdade, não há razão para acreditar que evolução seria interrompida. Então, o dilema não será mais se a Humanidade, superada pelas máquinas, deve reconhecer ou não a personalidade e os direitos da Inteligência Artificial, mas se ela aceitará os nossos.

REFERÊNCIA BIBLIOGRÁFICA

SOUZA, Eduardo Nunes de. Dilemas atuais do conceito jurídico de personalidade: uma crítica às propostas de subjetivação de animais e de mecanismos de inteligência artificial. Disponível em: https://civilistica.emnuvens.com.br/redc/article/view/562. Acesso em: 11/06/2023.

CHESTERMAN, Simon. Artificial intelligence and the limits of legal personality. International & Comparative Law Quarterly, v. 69, n. 4, p. 819-844, 2020.

HALLEVY, Gabriel. The criminal liability of artificial intelligence entities-from science fiction to legal social control. Akron Intell. Prop. J., v. 4, p. 171, 2010.

CANTARIN, Paola. Personalidade jurídica eletrônica (epersonality) de aplicações de IA. Disponível em: https://www.migalhas.com.br/coluna/humanidades-e-novas-tecnologias/371055/personalidade-juridica-eletronica-epersonality-de-aplicacoes-de-ia. Acesso em: 11/06/2023.

[1] Disponível em: https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_PT.html#_section1. Acesso em: 11/06/2023.

[2] Disponível em: https://bluejack.com.br/2020/04/08/diretor-artificial-a-inteligencia-artificial-em-cargos-executivos-das-empresas/. Acesso em: 11/06/2023.

[3] Disponível em: https://bernardodeazevedo.com/conteudos/sistemas-que-calculam-indice-de-reincidencia-dos-reus-crescem-nos-eua/. Acesso em 11/06/2023.

[4] Disponível em: https://www.direitonews.com.br/2020/02/tribunal-chines-artigo-inteligencia-artificial-direito.html. Acesso em: 11/06/2023.

[5] Disponível em: https://www.blogs.unicamp.br/pemcie/2020/03/10/isaac-asimov-os-robos-e-nocoes-de-sujeito/. Acesso em: 26/01/2023.

SAUVEI LAI – Promotor de Justiça do Ministério Público do Estado do Rio de Janeiro (MPRJ) desde 1999 e membro-auxiliar da Procuradoria-Geral da República perante os Tribunais Superiores desde 2021. Associado da Amperj. Integrante do grupo de trabalho da sub-relatoria da revisão do novo Código de Processo Penal (NCPP) na Câmara dos Deputados (2019) e representante da Conamp perante a Câmara dos Deputados na discussão do NCPP (2021). Coautor do anteprojeto de Lei 4.939/2020 sobre Diretrizes do Direito da Tecnologia da Informação e outros assuntos.