Trabalho acadêmico apresentado em cumprimento das exigências da disciplina de Ambiente Profissional e de Extensão (APEX I) do Curso Superior de Análise e Desenvolvimento de Sistemas.
Orientador: Carla Reis
São José dos Campos 2023
RESUMO
Este trabalho visa traçar um panorama sobre a ética digital nas empresas, sua gênese, suas características e as dificuldades de sua aquilatação. Para tanto, foi realizada uma pesquisa bibliográfica sobre as diversas perspectivas históricas do termo ‘ética’, e sobre diversos episódios atuais em que, nos diversos aspectos influenciados pela escalada tecnológica que presenciamos, a conduta empresarial passou ao largo do que se aceita como comportamento ético.
PALAVRAS-CHAVE: 1. Ética; 2. Ética digital; 3. Tecnologia.
1 INTRODUÇÃO
Desde o início do que conhecemos como civilização ocidental, o ser humano procura entender a realidade e nela movimentar-se, seja pelas lentes da moral, ou da ética. Nesses dois milênios, a humanidade conheceu um grande desenvolvimento em sua compreensão sobre problemas de ordem moral, que nem sempre foram vistos como problemas, e sobre o papel do homem e das instituições na tarefa de mitiga-los.
Com o advento da revolução industrial, no século XVIII, a humanidade passou por uma modificação sem precedentes, com um desenvolvimento material sustentado que permitiu a melhoria das condições de vida de grande parte da população mundial, num espaço de tempo mínimo.
Essa mudança, entretanto, não veio sozinha. O avanço material foi acompanhado de sérios desafios humanitários que maculavam a percepção dessa nova forma de produção, com a exploração de pessoas, a degradação de ambientes e a submissão de mercados e povos. Novas teorias éticas foram desenvolvidas para que fossem encontradas maneiras de erradicar comportamentos empresariais pouco dignos, para dizer o mínimo.
Em nossos dias, a explosão do desenvolvimento da tecnologia digital, com as recentes criações de sistemas de armazenamento de dados e execução de processos em nuvem, além de algoritmos de inteligência artificial, trouxeram ingredientes surpreendentes para um contexto em que as mudanças ocorrem a velocidades estonteantes. Essa nova realidade implica na identificação de problemas iminentes e potenciais, e na concepção de novas ferramentas éticas para o enfrentamento das questões.
É essa breve investigação, dos desafios éticos que as tecnologias atuais trazem, que faremos agora.
2 GÊNESE DA ÉTICA
Para a nossa análise a respeito da ética digital nas empresas, é interessante fazermos uma síntese das origens do conceito de ética, com a consequente distinção entre as concepções de moral e ética.
No denominado “período axial”, compreendido entre os séculos VI e IV antes da Era Cristã, a humanidade conheceu uma mudança elementar em seu modo de compreender o mundo e a realidade. Os grandes esquemas mitológicos, que explicavam a origem do mundo, do homem e da civilização, gradualmente foram perdendo espaço para sistemas morais que partiam de uma tentativa racional de entender quais os fundamentos da correta conduta dos homens.
Até esse momento, as crenças explicavam e regiam todos os aspectos da vida social e forneciam justificativa para o exercício do poder. Após, principalmente com o advento da filosofia e o surgimento das religiões monoteístas, a vida ética passou a ser pensada de maneira desvinculada das considerações mitológicas.
2.1 MORAL
Segundo Braga Júnior, “moral é um conjunto de normas, regras, valores e costumes que rege uma sociedade ou um grupo de indivíduos”.
Essas normas, regras e costumes são aceitas por um determinado grupo social, em um determinado período, como o parâmetro para a adequação e aceitabilidade das ações e comportamentos adotados pelos membros desse mesmo grupo. Dessa definição depreende-se que a moral é histórica, ou seja está circunscrita a um determinado momento no espaço e no tempo. Além disso, a moral tem sua gênese num processo orgânico, informal, derivado das reiteradas soluções que essa comunidade encontra para conflitos havidos no grupo.
2.2 ÉTICA
A ética, ao contrário, parte da observação racional, em diversos períodos e localidades, desses fenômenos sociais. Por meio da análise desses, tenta encontrar explicações para sua eclosão, bem como critérios para a solução de problemas verificados na convivência social. É uma ciência normativa3, embora não prática (indica regras socialmente desejáveis, mas não maneiras de conseguir-se a observância delas).
Em cada período histórico, diversos grupos de pensadores expuseram suas considerações a respeito da ética, e suas contribuições são agrupadas em razão de determinadas características em comum. Para fins dessa breve exposição, relacionaremos alguns dos principais representantes de cada grupo, sem a pretensão de completude, mas de forma abrangente o suficiente.
2.2.1 A ÉTICA NA ANTIGUIDADE
Considera-se como a base do conhecimento ocidental a produção dos filósofos gregos Sócrates, Platão e Aristóteles. Outras escolas do pensamento grego são também muito importantes, entretanto concentraremos nossa escolha somente nesses três principais.
2.2.1.1 SÓCRATES
Sócrates é considerado o precursor da filosofia moderna. Sua doutrina coloca a felicidade (definida de maneira particular como o exercício voluntário da virtude) como o principal objetivo do ser humano e que a alma humana (definida como a capacidade de entender, conhecer a essência das coisas) era o objeto de estudo. Dispor-se a conhecer o bem e, conhecendo-o, não deixar de praticá-lo.
2.2.1.2 PLATÃO
Discípulo de Sócrates, Platão legou-nos em boa parte os ensinamentos filosóficos do mestre e deu continuidade à concepção de que a alma racional é o fundamento do comportamento humano. Sua contribuição, entretanto, difere por considerar dois planos distintos para o ser humano: o sensível e o inteligível.
A atividade intelectual do homem, para Platão, deveria se voltar para a prática de ações fundamentadas na disposição essencial do ser humano, nossa capacidade racional. Quando, ao contrário, o homem se entrega às pulsões instintivas ou passionais do corpo ele age de forma contrária à natureza da alma e se torna cativo dessas mesmas paixões.
2.2.1.3 ARISTÓTELES
Considerado um dos pilares do pensamento ocidental, Aristóteles partia da concepção da alma racional como a virtude (aqui entendida como aquilo que de melhor alguma coisa efetua) do ser humano. Para ele, essa excelência consiste na ponderação entre dois extremos, a execução de um ato sem falta ou excesso de nenhuma disposição.
Aristóteles distingue as virtudes éticas, ou virtudes morais, as que traduzem essa busca pela justa medida nos impulsos e paixões, e também as virtudes dianoéticas, ou virtudes intelectuais, ligadas à vida prática e que tratam da apreensão pelo homem do conhecimento verdadeiro e indubitável do bem supremo, para que seja possível saber como e porque agir.
Além disso, Aristóteles sistematiza a psicologia do ato moral, distinguindo os seguintes elementos: a deliberação (a capacidade de vislumbrar os meios necessários à consecução de determinados fins), a escolha (a decisão de se dispor a agir de determinada maneira) e a volição (a plena disposição de agir).
2.2.2 A ÉTICA NA IDADE MÉDIA
Na Idade Média, o período compreendido entre os séculos V e XV, observou-se a hegemonia da conduta embasada na religiosidade cristã, com as consequentes visões particulares sobre o mundo e o indivíduo. Na cosmovisão cristã, a verdadeira felicidade não pode ser encontrada no mundo físico, mas somente no plano espiritual, após a vida terrena.
A conduta do indivíduo deve se ajustar à vontade de Deus, o que coloca a subjetividade em evidência, pois a obtenção da felicidade (no plano espiritual) está vinculada a uma conduta voltada à perfeição moral (santidade). Nesse aspecto, a ética cristã foi um ponto de virada com relação à ética pagã, que era voltada à adequação da conduta do indivíduo em relação intrínseca com sua comunidade.
2.2.2.1 AGOSTINHO DE HIPONA
A ética de Agostinho de Hipona concilia concepções de Platão com a religiosidade cristã. Para ele, a santidade (virtude máxima do cristão) depende da fé.
O homem, na cosmovisão cristã, quando da queda, foi expulso do paraíso. Com isso, as ações do homem, que antes eram ingênuas (eis que não concebia o bem e o mal), passaram a ser passíveis de julgamento, uma vez que agora ele sabe (distingue o bem do mal). Essa condição da alma, separada de Deus e almejando Seu reencontro, coloca a santidade como objetivo máximo do cristão. Agindo moralmente, de acordo com a prescrição divina, o homem precisa ativamente opor-se ao pecado (ação contra Deus ou que Lhe causaria ofensa).
Para Agostinho, Deus criou todas as coisas em harmonia, nada foi criado que não seja bom, ou seja, ontologicamente o mal não existe. Acontecimentos que o intelecto humano interpreta como mal são assim vistos por causa da incapacidade do ser humano de alcançar um entendimento completo sobre os desígnios divinos. A fé, nesse contexto, é o componente fundamental para que o cristão permaneça agindo em acordo com os planos de Deus.
Ainda segundo Agostinho, a fé, concedida pela graça divina, é um dom dos predestinados, dos escolhidos. A liberdade é o servir a Deus, submeter-se ao plano divino é o que de melhor a alma humana pode aspirar.
2.2.2.2 TOMÁS DE AQUINO
Provavelmente o maior pensador do período escolástico, Tomás de Aquino em sua obra harmonizou os conceitos de fé e razão, trazendo para a concepção de vida cristã conceitos aristotélicos para a interpretação do mundo e a ação do cristão nele.
Para a concepção tomista, a fé é o único meio para que o homem aja bem, pois a verdade imprescindível para que o homem se comporte de forma virtuosa é a verdade revelada. O intelecto humano não é capaz de apreender o plano divino em sua plenitude, a verdade em si, mas Deus dotou o homem de inteligência para que este alcançasse a verdade8.
Ao contrário de Agostinho, Tomás de Aquino entende a fé como um atributo aperfeiçoável, não como algo reservado a um grupo de predestinados. É o exercício da inteligência na tarefa de absorver as lições deixadas por Deus que fortalece a fé. Ao mesmo tempo, é o conhecimento e o exercício das atitudes fundamentadas na verdade revelada que honra o intelecto divino, que presenteou o homem com esse atributo.
No que se refere ao ato moral, a ética tomista coloca em ênfase os conceitos de voluntariedade da ação (para ser virtuosa, a ação deve fundamentar-se em si mesma, e possuir uma finalidade, a busca de um bem) e materialidade da ação (a depender da matéria, das circunstâncias e da finalidade ou objetivo de uma ação, esta pode ser considerada como moralmente boa ou má).
Em suma, a ética tomista, como toda a ética oriunda do período medieval, explica-nos que a verdadeira felicidade não deve ser buscada no mundo físico, estando reservada aos que buscam entender e praticar a verdade revelada.
2.2.3 A ÉTICA MODERNA
A partir do Renascimento, com o florescimento de uma nova cultura, antropocêntrica (que coloca o homem no centro da realidade, em contraposição à anterior, teocêntrica), uma nova concepção de razão e liberdade criou as bases para o desenvolvimento das ciências, e consequentemente da técnica, a mudança dos valores sociais vigentes e a construção de novas concepções éticas oriundas dos desafios econômicos, metodológicos e humanitários que se observavam na sociedade européia.
Desse período, destacamos de forma breve as contribuições de Maquiavel, com uma inegável contribuição na área política, David Hume, com o empirismo, e Kant, com a ética do dever.
2.2.3.1 MAQUIAVEL
Nicolau Maquiavel desenvolveu em sua obra-prima, O Príncipe, uma reflexão política e ética voltada para o sujeito político (aquele que participa da vida pública, ocupando um cargo na administração da cidade/nação).
Desvencilhando-se da influência da moral cristã, Maquiavel traça uma linha clara entre a ética que se observa no comum do povo, e aquela que deve ser abraçada pelo gestor da coisa pública. A ética do príncipe (o gestor) baseia-se na manutenção do poder, pura e simplesmente. O bem comum, a paz do reino, a estima, bem como o desprezo ou o temor, do povo, dos soldados, dos poderosos, o exercício da benevolência ou da crueldade, tudo está vinculado ao crivo, tender ou não a facilitar a manutenção do poder.
2.2.3.2 DAVID HUME
David Hume, em sua principal obra, Tratado sobre a natureza humana, traz uma visão peculiar de ética baseada no empirismo, ou seja, na primazia dos sentidos em detrimento da razão para entender-se o processo de conhecimento.
Hume classifica os conteúdos que a mente humana detém como percepções, que ele divide em dois tipos: ideias (percepções menos fortes e vivazes, também chamadas de pensamentos) e impressões (percepções mais vívidas).
Para ele, os princípios éticos não são algo que “deve ser”, dirigido à razão e à vontade, mas sim inclinações do espírito humano, que representam os pressupostos básicos da conduta humana. A ética deve ser fundamentada nos princípios da natureza humana, as paixões e os sentimentos. A razão, apesar de capaz de descobrir as verdades contidas no mundo, não é suficiente para provocar no homem nem aversão, nem aprovação, e, por isso, não pode influenciar nossas emoções e servir de lastro para uma ação moral.
Desse modo, o papel da razão é secundário, somente as paixões e emoções sendo capazes de nos fazer distinguir entre o bem e o mal. Para Hume, uma ação, para ser considerada ética, deve buscar um equilíbrio entre dois sentimentos antagônicos, sendo os principais a dor/prazer e a benevolência/egoísmo. Determinar a busca desse equilíbrio é papel de um elemento por ele chamado de interesse público.
2.2.3.3 IMMANUEL KANT
Immanuel Kant (1724-1804) foi um filósofo alemão do período iluminista, considerado um dos maiores estudiosos da moral de todos os tempos. Sua filosofia é comumente referida como ética deontológica, e enfatiza os conceitos de dever e a importância do respeito a princípios e regras morais, independentemente dos resultados por eles produzidos.
Para Kant, a moral é oriunda da razão. O indivíduo deve interpretar a realidade de forma independente e, a partir dessa atividade, elaborar para si princípios morais que nortearão sua conduta. Um comportamento moralmente digno parte, portanto, da observância estrita pelo indivíduo daquelas mesmas regras que ele, por meio de sua análise racional, criou para si, e nunca de emoções ou desejos.
A criação desses princípios morais, entretanto, deve observar alguns critérios. O principal deles, a pedra de toque da filosofia de Kant, é o chamado imperativo categórico. Trata-se de uma concepção universal de dever inerente a todos os seres racionais, e que requer do ser humano agir com base em um princípio que possa ser considerado como uma lei universal, sem que nele se encontre contradição. Uma vez que o princípio que rege determinada ação leve a uma contradição lógica quando considerado de forma universal, essa ação deve ser considerada moralmente proibida.
Ainda, como critério de validade para o imperativo categórico, o ser humano deve ser considerado como fim em si, jamais sendo utilizado como meio para a obtenção de algo. Kant enfatiza a dignidade e a autonomia inerentes do indivíduo, condenando a exploração ou o uso de pessoas para ganhos pessoais.
3 ÉTICA CONTEMPORÂNEA
Nos dias de hoje, com os desafios trazidos pela vida moderna, pensadores examinam os mais diversos dilemas éticos e oferecem abordagens únicas para o entendimento e a solução desses problemas. As principais linhas de pensamento da ética contemporânea são as seguintes:
1. Utilitarismo – Afirma que a ação moralmente desejável é aquela que maximiza a felicidade ou o bem-estar geral, focando nas consequências das ações.
2. Deontologia – Parte da ética de Kant e enfatiza a observância de regras morais e princípios, independente das consequências.
3. Ética da virtude – Baseada na filosofia de Aristóteles, enfatiza a busca por virtude, desenvolvimento pessoal, educação moral, e a importância de modelos de conduta virtuosos para a tomada de decisões éticas.
4. Ética do cuidado – Traz para o primeiro plano a importância das relações, da empatia e das inter-conexões humanas na consideração da ação moral.
5. Contratualismo – Explora a ideia de que os seres humanos entram em acordo a respeito de quais princípios éticos e normas sociais serão observados entre si, na vida social, por meio da deliberação racional.
6. Casuística – Busca a solução de dilemas éticos por meio da análise caso a caso, comparando-os com precedentes relevantes ou paradigmas socialmente aceitos.
7. Ética aplicada – Concentra-se nas questões éticas do mundo atual, como a bioética (dilemas éticos na medicina e na biologia), ética ambiental (questões sobre a natureza e o meio ambiente), ética empresarial e outras.
4 A ÉTICA EMPRESARIAL
O ecossistema empresarial é naturalmente dado a desafios éticos. A combinação de necessidade de obtenção de lucro, concorrência agressiva e, por que não?, ou mesmo principalmente, o exercício de poder, faz com que esse fenômeno social seja terreno fértil para ignorar-se limites.
Entretanto, numa abordagem eminentemente prática, a recente valorização de questões éticas nos negócios decorreu da constatação pelos gestores de que escândalos relacionados a condutas não éticas por parte das empresas, quando divulgados pela imprensa ou tornados virais pelas redes sociais, trazem consequências graves para a reputação da organização. Nenhum dos atores que circundam o estabelecimento, sejam fornecedores, empregados, clientes ou mesmo concorrentes (até certo ponto) quer ver-se relacionando com uma instituição que apresenta condutas desalinhadas de seus valores.
Como ramo do conhecimento, a ética empresarial estuda as normas éticas observadas na rotina das atividades de organizações empresariais. Essas normas podem ser analisadas por três prismas: micro (o dos indivíduos), meso (o da organização em si), e macro (o do contexto social e econômico). Para fins deste trabalho, concentrar-nos-emos apenas no nível meso.
Nesse nível, três são as questões principais a serem observadas para a análise ética de uma decisão empresarial: quais as leis que regem o determinado comportamento da organização; como a empresa deve proceder em questões que ultrapassam a influência legal; como a empresa lida com conflitos entre interesses pessoais e organizacionais.
Como qualquer outra disciplina, a ética empresarial também passou por diversas fases.
Num primeiro momento, com a revolução industrial, a atenção dos estudiosos se volta para a questão dos preços praticados pelas empresas (sempre altos, pelo visto) e da mecanização dos processos de produção, com a consequente alienação do trabalhador relativa à produção da qual este participa.
A expansão dos mercados, nos anos de 1970, trouxe à tona o conflito entre maneiras diversas de negociação, dos países do Ocidente e dos mercados recentemente redescobertos da Ásia e do Oriente Médio. Além desse aspecto, o crescimento da percepção crítica dos clientes com relação aos processos industriais e comerciais trouxe novas práticas de relacionamento das empresas com os consumidores, principalmente nas áreas de marketing.
Com o crescimento dos mercados de capitais, outros dilemas éticos foram trazidos à percepção do público, com a obtenção ilícita de lucros oriundos de esquemas de corrupção na bolsa de valores.
Porém, um tema sempre desponta de qualquer análise. Algumas pessoas colocam em primeiro plano a necessidade de obtenção de lucro pela empresa, até mesmo ao ponto de negligenciar outras questões importantes e aceitar quaisquer meios para alcançar os resultados almejados.
5 A ÉTICA DIGITAL
O avanço das tecnologias observado nos últimos anos trouxe consigo uma série de desafios éticos que deverão ser enfrentados pela sociedade. Inovações como o big data, a inteligência artificial, a internet das coisas, todas trazem implicações éticas sérias em termos de privacidade e segurança do cidadão.
Nesse cenário, entende-se como ética digital o conjunto de diretrizes que orientam o comportamento e as decisões a serem tomados pelas empresas no uso da tecnologia. Mais especificamente, trata-se de um corpo de princípios e valores morais que direciona a criação, a configuração e o uso de tecnologias digitais.
Dois aspectos, correlacionados, são dignos de nota e devem ser levados em conta por todos os atores afetados pelas novidades tecnológicas. O estritamente empresarial, que trata da forma como as empresas devem gerir as ferramentas disponibilizadas por essas tecnologias, e o aspecto individual, em que é necessário levar em conta a facilidade com que o digital amplia as consequências das ações nele exercidas. Maggiolini, citando Bauman, aponta que enquanto nossos antepassados eram testemunhas diretas das consequências de todos seus atos, o homem moderno, agindo na ágora digital, terá seus atos divulgados e mesmo amplificados para o mundo inteiro, com consequências imprevisíveis e, às vezes, perigosas.
5.1 PRIVACIDADE
O advento do SaaS/PaaS/IaaS (Software/Platform/Infra-Structure as a Service – Software/Plataforma/Infra-Estrutura como Serviço) revolucionou a maneira como as pessoas consomem programas. Os avanços na velocidade da internet e nas tecnologias web tornaram possível ao usuário utilizar programas não instalados em seu próprio computador. Eles seriam acessados por meio da rede, à medida que fossem necessários.
Apesar das vantagens desse modelo de negócios, um aspecto da relação acabou se agigantando e trazendo problemas. O acesso aos programas pela rede implica no armazenamento de informações dos usuários (tanto de negócio como pessoais) em um computador sobre o qual estes não têm a mínima ingerência (a nuvem). Além disso, essas informações precisam trafegar pela rede, o que implica na possibilidade de interceptação por parte de agentes mal-intencionados.
Ademais, serviços oferecidos em troca da colheita de informações para fins publicitários, respaldados por termos de uso muito extensos, alçaram a quantidade e o tipo de informações cedidas pelo usuário a níveis jamais vistos, sem que houvesse uma conscientização dos usuários acerca do real valor, e dos custos, dessa troca.
Além desse aspecto ativo, do uso adequado das ferramentas digitais feito pelas empresas, existe um outro a ser considerado. Cookies, bancos de dados, conexões de rede, gerenciamento de acesso, algoritmos altamente complexos, todas essas são portas de entrada para que oportunistas se apoderem de dados dos usuários e os utilizem de maneiras não ortodoxas.
A aprovação de legislações que abordam a questão da privacidade do usuário, tais como a GDPR (General Data Protection Regulation), da União Europeia, e a brasileira LGPD (Lei Geral de Proteção de Dados), pode mitigar esses problemas, mas ainda é muito incipiente para que seja possível mensurar seus efeitos.
5.2 SEGURANÇA
Outro ponto de preocupação é a transmissão de uma falsa sensação de segurança ao usuário. SSL, o protocolo de segurança da internet, é notório por sua complexidade e, em razão disso, pode transmitir a impressão de que está tudo bem quando do acesso de um serviço online.
Ainda que a implementação usada tenha sido corretamente desenvolvida, o que nem sempre é o caso, existem diversas configurações que podem ser modificadas e combinações de configurações que tornam o protocolo, na prática, uma camada de nada.
Em outros casos, a implementação é correta, mas o administrador de rede desabilita opções cruciais para que o protocolo forneça segurança adequada. Um caso comum é a verificação do certificado de segurança. A partir do momento em que sua aplicação utiliza uma conexão criptografada, mas não pode garantir quem é que está na outra ponta, a segurança está comprometida. Esse é um caso grave, afinal a segurança do usuário foi deliberadamente removida, ainda que a ação não tenha sido maliciosa, por um agente da empresa.
De maneira parecida, com a progressiva preferência dos mecanismos de busca por websites servidos por conexão segura (https), outro efeito negativo ocorre, aqui na ponta do webmaster. A proliferação de certificados autoassinados. Novamente, a falta de ética por parte do administrador do website faz com que o usuário seja forçado a confiar na promessa feita “no fio do bigode”.
5.3 “INTELIGÊNCIA” ARTIFICIAL
Conquanto filosoficamente seja possível admitir que os algoritmos de inteligência artificial sejam uma espécie de inteligência, para fins de discussão sobre as implicações éticas de seu uso seria bom considerá-los e tratá-los somente como construtos computacionais, determinísticos, dos quais jamais teremos garantia completa de seu correto funcionamento16, e que simulam processos biológicos (ou mesmo transcendentais, caso a pessoa entenda a inteligência humana dessa forma) que estamos longe de entender por completo.
Feita essa ressalva, aplicações de inteligência artificial serão um poderosíssimo auxiliar para diversas atividades humanas, desde que permaneçam nessa condição, de auxiliar.
Sabe-se que os resultados apresentados por uma inteligência artificial dependem em grande medida da forma como o modelo de aprendizado foi criado, o que coloca um grande desafio ético para as empresas, tendo em vista que preconceitos, ou simples negligência na construção do modelo podem trazer consequências desastrosas.
É conhecido o caso do desenvolvimento, pela empresa Amazon, de um sistema, que utilizava de recursos de inteligência artificial, usado para subsidiar a contratação de funcionários. Tal sistema foi treinado com o banco de dados de currículos da própria empresa, que abrangia um período de cerca de dez anos.
Ocorre que a esmagadora maioria dos currículos constantes da base de dados foram enviados por homens, e o sistema terminou, por exemplo, pontuando negativamente currículos que continham a expressão “women’s”. Em outros casos, currículos que mencionavam o estudo em escolas exclusivamente femininas também foram avaliados de forma negativa.
5.3.1 INTERATIVIDADE
Principalmente nos casos de assistentes pessoais, aos moldes de Alexa, Siri e outros, onde a interface é oral, a similaridade com uma interação humana torna esse tipo de aplicação bastante crítica do ponto de vista ético.
Aos moldes do que ocorre numa busca web normal, onde resultados pagos são inseridos em meio a outros oriundos da pesquisa em si, nada impede, exceto um forte senso ético por parte da empresa, que os resultados apresentados por uma pesquisa feita num dispositivo movido por inteligência artificial sejam também selecionados dentre opções que beneficiam a empresa que criou o dispositivo e não necessariamente atendam aos interesses do usuário final.
Ainda que devidamente indicados como pagos, esses resultados, apresentados na frente de outros gerados pelo algoritmo de busca, serão levados em consideração de forma preferencial pelo usuário, da mesma maneira como os resultados above the fold em navegadores web.
Outro problema ético é a tomada de decisões por parte do assistente virtual. Há registro de casos em que o assistente, por conta própria, realiza de forma reiterada compras que deveriam ter sido feitas apenas uma vez. Em outros, são feitas compras aleatórias, apenas porque o proprietário do assistente realizou uma busca por determinado produto. Nesse caso, o problema ético mais uma vez é a definição de padrões de configuração temerários18. Os assistentes virtuais mais conhecidos disponíveis no mercado (à exceção do Google) podem, por padrão, realizar compras diretamente, sem intervenção do proprietário do aparelho.
Entretanto, esses problemas, por que identificáveis com uma análise mais atenta, são menos graves do que outro também observável em mecanismos de busca e redes sociais.
5.4 MANIPULAÇÃO E VIESES
Com a colheita de dados de uso realizada por websites, torna-se possível oferecer ao usuário uma experiência altamente personalizada, com resultados de busca e feeds ajustados ao histórico de buscas. Essa conveniência, entretanto, é uma faca de dois gumes, pois termina por perpetuar um ciclo de feedback que pode se tornar nocivo. Cada vez mais o sistema oferece ao usuário resultados que corroboram aquele ponto de vista inicial obtido.
Isso pode ser mitigado pelo próprio algoritmo utilizado pela empresa, incluindo certo número de enfoques divergentes daquele a que o usuário está acostumado. Porém, num modelo de negócios onde cliques em anúncios são o que importa, oferecer alternativas ao usuário pode ser contraproducente.
Essa característica do sistema de personalização varia conforme o tipo de website. Num sistema de busca, Google ou Bing, por exemplo, as notícias mostradas concentram-se em sites mais populares, pois a busca precisa agradar a um maior número de diferentes usuários. Numa rede social, como o Facebook, entretanto, o nível de personalização deve ser maior, pois o próprio conceito do site é oferecer uma experiência altamente especializada. Ainda assim, é possível incluir critérios de classificação que tornem esse viés menos pronunciado.
5.5 CONCENTRAÇÃO DE MERCADOS
Sobre o modelo de computação em nuvem, ainda, outra questão ética que se apresenta, oriunda das características do modelo e das exigências firmadas por legislações como a GDPR e a LGPD, é a tendência à concentração de alguns tipos de mercados.
Com as possibilidades trazidas pela computação em nuvem, a decisão pela implantação de um negócio online em plataforma própria tornou-se em boa parte dos casos inviável. Os ganhos em escala e as facilidades de administração de uma plataforma em nuvem são inegáveis, mas na fase de experimentação. Para empresas menores, uma vez que a atividade entre em modo regular, a utilização da computação em nuvem incorre em custos fixos que podem ser bastante significativos. Além disso, falhas na configuração dos serviços podem resultar em “estouros” de orçamento e brechas de segurança graves.
Uma vez que essas desvantagens se apresentam no momento em que a empresa adentra o dia-a-dia de suas operações, é razoável pensar que numa primeira fase as vantagens da computação em nuvem serão usufruidas principalmente por empresas de grande porte, que podem custear a rotina de trabalho em conjunto com a experimentação de novos projetos sem que isso implique no comprometimento de grande parcela do orçamento da empresa.
Ademais, as prescrições das leis de proteção de dados fazem com que seja até mesmo temeroso à empresa pequena custear uma equipe capaz de garantir segurança de dados, privacidade do usuário, anonimização, direito à exclusão de dados, além de proporcionar uma plataforma estável e eficiente para a própria atividade-fim da organização. Muito mais fácil contratar uma máquina virtual.
5.6 PROPRIEDADE DE DADOS
A invenção do dinheiro foi um ponto crucial para o desenvolvimento das atividades humanas e para a dinamização das relações entre os povos. Não mais seria necessário que as partes envolvidas aquilatassem a relação de valor existente entre os bens que se propunham trocar. Ainda que um instrumento imperfeito, o dinheiro permite que as pessoas tenham uma indicação razoavelmente precisa de quanto determinado bem vale.
Pois bem, dados sempre foram valiosos, mas somente com o advento e o desenvolvimento dos computadores e da internet sua coleta e processamento atingiram tal nível de facilidade que as empresas se viram diante de uma oportunidade de ouro: o escambo, voluntário ou não, de informações pessoais.
Seja na forma de aplicações que coletam dados do usuário para venda, seja na forma de direcionamento de publicidade, criou-se um limbo ético, pois, novamente, várias empresas enterram previsões irrazoáveis de coleta de dados em termos de uso enormes, trazem essas opções de coleta habilitadas a todo vapor em seus aplicativos ou utensílios, e escondem as opções de desligamento da coleta atrás de um labirinto de opções de menu.
Em outros casos, empresas simplesmente optam por ignorar o que foi estabelecido nos termos de uso ou legalmente determinado. Numa reclamação ajuizada em Maio de 2023 contra a Amazon, por exemplo, a empresa é acusada de não apagar os registros de voz, as transcrições geradas a partir desses, e os registros de geolocalização de crianças nos aparelhos Alexa, mesmo quando instada a tanto pelos pais.
6 CONCLUSÃO
Em 1957, a talidomida foi comercializada pela primeira vez, na Alemanha, como sedativo e hipnótico. Acreditava-se que possuía poucos efeitos colaterais. O medicamento, muito eficaz no combate aos enjoos matinais decorrentes da gravidez, foi rapidamente adotado e prescrito por médicos em quase todas as partes do mundo.
No final da década de 60 foram descritos na Alemanha, no Reino Unido e na Austrália os primeiros casos de más-formações congênitas, principalmente focomelia, sem, entretanto, estabelecer-se relação de causalidade com o fármaco. Em 1962, já contabilizados mais de 10.000 casos de defeitos congênitos causados pela talidomida, sua comercialização foi proibida.
Ao contrário de produtos farmacêuticos, os danos causados por algoritmos e os desdobramentos sociais de suas inovações são mais difíceis de serem previstos. Ainda que um sentimento geral de cautela seja necessário e mesmo observado, ele não é de maneira alguma suficiente.
A proliferação de empresas oferecendo serviços baseados em inteligência artificial e na computação em nuvem traz à baila a questão de quais realmente são os desdobramentos éticos da adoção dessas tecnologias, uma vez que os principais atores a levantar o estandarte da ética são dela violadores contumazes.
Além disso, a adesão entusiasmada de diversos governos às possibilidades de controle social trazidas por essas novas tecnologias, e a colaboração das maiores empresas para o desenvolvimento desse tipo de ferramentas levanta a questão: o que realmente se deseja? Uma análise aberta sobre os perigos dessas inovações ou pastorear a discussão para que uma determinada ética, que seria futuramente cristalizada em lei, prevaleça?
7 REFERÊNCIAS
ABREU, Adolfo Gomes De. VANTAGENS E DESVANTAGENS DO USO DA COMPUTAÇÃO EM NUVEM NA EXPERIMENTAÇÃO DE NOVAS APLICAÇÕES EMPRESARIAIS. Disponível em: https://bibliotecadigital.fgv.br/dspace/bitstream/handle/10438/34024/FGV_AdolfoAbreu_ExperimentacaoNuvem_versao_final_02.pdf?sequence=1. ANTÔNIO DJALMA BRAGA JÚNIOR; IVAN LUIZ MONTEIRO. Fundamentos da ética. Curitiba: InterSaberes, 2016. (Série Estudos de Filosofia). J. MYERS, Glenford; SANDLER, Corey; BADGETT, Tom. The Art of Software Testing. 3rd. [s.l.]: Wiley, 1946. MACKENZIE. O que é Ética no Mundo Digital? Blog Mackenzie. Disponível em: https://blog.mackenzie.br/mercado-carreira/mercado-de-trabalho/nocoes-de-etica-no-mundo-digital-2/. Acesso em: 27 ago. 2023. MAGGIOLINI, Piercarlo. UM APROFUNDAMENTO PARA O CONCEITO DE ÉTICA DIGITAL. Revista de Administração de Empresas, v. 54, p. 585–591, 2014. O’NEIL, Martin. SSL is mostly just a false sense of security. SSL is mostly just a false sense of security. Disponível em: https://www.linkedin.com/pulse/ssl-mostly-just-false-sense-security-martin-o-neal. Acesso em: 26 ago. 2023. POMPA ANTUNES, Maria Thereza. Ética: bibliografia universitária. São Paulo: Pearson Education do Brasil, 2012. UNITED STATES OF AMERICA. COMPLAINT FOR PERMANENT INJUNCTION, CIVIL PENALTIES, AND OTHER RELIEF. Disponível em: https://www.ftc.gov/system/files/ftc_gov/pdf/AmazonAlexaOrder-filed.pdf. Acesso em: 26 ago. 2023. “Alexa, que conta é essa?” Assistentes virtuais que fazem compras por conta própria e surpreendem os donos. Disponível em: https://extra.globo.com/economia-e-financas/alexa-que-conta-essa-assistentes-virtuais-que-fazem-compras-por-conta-propria-surpreendem-os-donos-25543159.html. Acesso em: 26 ago. 2023. Amazon scraps secret AI recruiting tool that showed bias against women | Reuters. Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G. Acesso em: 26 ago. 2023. Focomelia. In: Focomelia. [s.l.: s.n., s.d.]. Disponível em: https://pt.m.wikipedia.org/wiki/Focomelia. Full interview: Facebook’s head of news partnerships & head of News Feed live from Code Media. [s.l.: s.n.], 2018. Disponível em: https://www.youtube.com/watch?v=dU-MIj5vEjU. Acesso em: 26 ago. 2023. Leaked Emails Show Google Expected Drone Project to Grow Rapidly. Disponível em: https://theintercept.com/2018/05/31/google-leaked-emails-drone-ai-pentagon-lucrative/. Acesso em: 26 ago. 2023. The Ethical Dilemma at the Heart of Big Tech Companies. Disponível em: https://hbr.org/2019/11/the-ethical-dilemma-at-the-heart-of-big-tech-companies. Acesso em: 26 ago. 2023.