O determinismo tecnológico promove a ideia de que a tecnologia segue uma lógica interna e determina a organização social, cultural e histórica. Possui raízes intelectuais antigas, associadas ao advento da colonização, como artefato simbólico de discriminação de povos para legitimar sua expropriação. Foi aprimorado, no século XX, por formulações e debates de acadêmicos - europeus e norte-americanos - da área da tecnologia.
O artigo do jornal, logo nas primeiras linhas, estabelece seu pressuposto determinista ao afirmar que o livro teria uma evolução histórica linear, cuja dinâmica interna se organizaria em torno de três fatores. Primeiro, a busca contínua de eficiência dos suportes materiais, cada vez mais rápidos, econômicos, confortáveis e acessíveis.
Segundo, os efeitos inevitáveis da tecnologia sobre as práticas sociais. E terceiro, o surgimento de setores da sociedade resistentes às transformações introduzidas pela tecnologia. De acordo com o artigo, o livro seria tanto um objeto quanto um processo. Influenciaria a cultura e moldaria a imaginação, o que, por sua vez, culminaria no aprimoramento tecnológico, desenvolvendo-se formas mais avançadas.
A fim de sustentar esse ponto de vista, o artigo sugere que a evolução histórica do livro abrange desde as tabuletas de argila, passando pelos rolos de papiro, os pergaminhos, as folhas de papel, as máquinas de datilografar, os computadores e a recente “inteligência artificial”. A partir daí, propõe-se a especular a respeito do futuro do livro.
Origens no colonialismo
A expressão técnica “determinismo tecnológico” é geralmente atribuída ao sociólogo e economista Thorstein Veblen, aparecendo entre o final do século XIX e o início do século XX. Junto a outros autores dos Estados Unidos, Veblen sistematizou ideias que circulavam há séculos em teses informais - como, por exemplo, a noção de que a máquina modela hábitos de pensamento e impõe formatos de ação.
A lógica por trás da ideia de determinismo tecnológico estruturava a retórica colonial desde as grandes navegações. Estava associada à crença de que a superioridade técnica e tecnológica conduzia inevitavelmente à superioridade civilizacional e política europeia. Desempenhava papel central na legitimação e consolidação de práticas de dominação.
Diversos agentes coloniais - administradores, engenheiros, missionários, cientistas, investidores - mobilizaram artefatos e sistemas técnicos como prova material de um suposto destino histórico europeu. Seus discursos e práticas sugeriam claramente uma visão determinista. Durante a expansão colonial dos séculos XVI a XIX, armas de fogo, navios, instrumentos de navegação, práticas sanitárias, entre outros, foram apresentados como sinais tangíveis de progresso e, portanto, como licença política para a conquista e tutela de povos considerados “atrasados”, com o uso indiscriminado da violência.
Esse padrão discursivo se consolidou no século XIX, quando o imperialismo industrial incorporou ferrovias, navios a vapor, telégrafos e medicamentos ao aparato de ocupação. Circulava amplamente nas sociedades europeias e dos Estados Unidos. Acadêmicos, a imprensa e comentaristas públicos utilizavam máquinas, dispositivos científicos e métodos industriais de produção como critérios de comparação civilizacional.
A tecnologia constituía uma métrica da evolução humana, “prova” da maturidade moral e intelectual de uma sociedade. Na imaginação colonial, tecnologias não apenas auxiliavam a expansão, mas demonstravam, por sua própria existência, que essa expansão era legítima, necessária e historicamente predestinada. Diferenças tecnológicas correspondiam a hierarquias raciais e, por consequência, a justificações de intervenção colonial e extermínio de outras culturas e povos.
No século XX, essa lógica se institucionalizou na tecnocracia do Estado. Serviços públicos, departamentos de obras, políticas de saúde e programas de modernização agrícola apresentavam-se como soluções técnicas para problemas sociais. O vocabulário administrativo deslocava o debate político para a esfera da “necessidade técnica”: escolhas de infraestrutura eram descritas como respostas objetivas e inevitáveis, reforçando o mito de uma ordem tecnológica neutra que justificaria o exercício contínuo de autoridade sobre populações.
Tecnologia cara-pálida
O propósito central do determinismo tecnológico não era discutir técnica, muito menos tecnologia, mas legitimar o imaginário da superioridade europeia e seu direito de dominar territórios e submeter outros povos. Todas as culturas desenvolveram técnicas e tecnologias refinadas, adequadas aos seus contextos específicos, que foram apagadas - ou eliminadas - pelos colonizadores, para quem existia uma única noção de “tecnologia”, europeia e historicamente localizada.
Nessa perspectiva, considerava-se tecnologia sobretudo máquinas e infraestruturas - ferrovias, navios a vapor, armas de fogo, telégrafos - e válidos os saberes codificados e sistematizáveis produzidos pelas instituições científicas e industriais europeias. Essa visão funcionava como ideologia: a ausência desse tipo de técnica e tecnologia correspondia à ausência de qualquer técnica ou tecnologia. De um lado, a superioridade civilizacional europeia; de outro, povos selvagens, primitivos ou atrasados.
A concepção europeia elegia como central o grande aparato técnico, sendo a tecnologia associada a sistemas de larga escala e de capital intensivo - como ferrovias, usinas e redes de comunicações - que integravam territórios e mercados. Organizava-se com base na cientificidade formal. Valorizavam-se saberes escritos, laboratoriais e codificados em detrimento daqueles transmitidos oralmente ou incorporados à prática cotidiana.
Dessa forma, “conhecimento” correspondia ao que podia ser quantificado e padronizado em medidas, taxas e rendimento, adquirindo estatuto de conhecimento legítimo, apto a orientar políticas planejadas. Ao propor uma narrativa linear de progresso, num mundo diverso em trajetórias históricas humanas, transformava como destino inevitável e último estágio aquele específico a países europeus. Com isso, nos discursos coloniais, naturalizava-se a dominação.
O efeito prático do eurocentrismo foi o apagamento e a desqualificação de um amplo conjunto de saberes, práticas técnicas e tecnologias presentes em sociedades não europeias. Essas comunidades possuíam tecnologias sofisticadas, ligadas, por exemplo, a sistemas de manejo do solo, engenharia hidráulica - terraços e canais -, metalurgia local, construção naval e de embarcações adaptadas a ambientes específicos, práticas agroflorestais complexas, conhecimentos farmacológicos e regimes de manejo de recursos baseados em longa observação ecológica.
Não se enquadravam, todavia, na categoria de “tecnologia” tal como definida pela ideologia colonial. Foram frequentemente rotuladas como simples tradição informal, reduzidas a um segundo escalão epistemológico.
Em nome do lucro
Os colonizadores simplificavam realidades complexas, desprezando o saber prático, local e contextualizado. Traziam consigo esquemas padronizados, estatais, corporativos e cientificistas, voltados à administração e estreitamente ligados à lógica do lucro e à expansão de mercados. A aplicação da tecnologia europeia, em vez de meio de “modernização”, ocorria para reduzir custos de transporte, assegurar o escoamento de matérias-primas e integrar colônias às cadeias de valor metropolitanas.
Servia, dessa forma, para aumentar a taxa de extração de excedente econômico em benefício das metrópoles. Essa orientação mercantil foi central no desenvolvimento tecnológico do colonialismo, por meio da seleção e difusão de tecnologias quando serviam à acumulação e à abertura de mercados, e não em função de critérios locais de necessidade ou sustentabilidade.
O que se propunha como científico e tecnológico pela Europa sustentava-se numa estratégia de externalização de custos sociais e ambientais. O projeto colonial se acompanhava - e ainda se acompanha - de intervenções massivas, como o desmatamento da vegetação para plantações comerciais ou a mineração de grande escala.
Historiadores ambientais apontam para a aliança entre a economia colonial e alterações paisagísticas e biológicas, frequentemente com prejuízos para populações locais e para a integridade ecológica. Os lucros gerados por tecnologias coloniais repousaram - e ainda repousam - sobre externalidades não contabilizadas.
A diferença entre a tecnologia das metrópoles e outras tecnologias recaía principalmente em sua finalidade. Uma ampla gama de práticas técnicas não europeias foi historicamente eficaz em manter produtividade, biodiversidade e estabilidade socioecológica em contextos específicos, em inúmeros casos com capacidade superior de adaptação às condições locais e verdadeira sustentabilidade. A ideologia tecnológica dos colonizadores, contudo, desprezava esses saberes e artefatos.
Nem todas as práticas locais eram sustentáveis em todas as circunstâncias, e podiam também provocar impactos ecológicos. Independentemente de méritos e limitações, a colonização operou para apagá-las: mais do que um conjunto de técnicas concretas, apagavam-se sistemas inteiros de produção, transmissão e governança do conhecimento. Esquemas padronizados e infraestruturas orientadas para a extração aniquilaram formas sociais e ecológicas locais de regulação e cuidado com a terra.
A colonialidade presente
O ambiente digital revigorou o determinismo tecnológico. Por ele circulam discursos que naturalizam o domínio de empresas e sua atuação cada vez mais autoritária. Legitimam o poder e a atuação política dos controladores por trás dessas empresas, bem como o controle exercido por eles sobre quem tem voz ou está autorizado a contribuir com o futuro tecnológico.
Exemplo disso encontra-se no artigo opinativo publicado pelo jornal de circulação nacional, discutindo as transformações da produção e do consumo de livros com o desenvolvimento da “inteligência artificial”. Ao contrário do que sugere o texto, não existe uma sequência linear e inevitável dos suportes de escrita ao longo da história.
Não ocorreu um desenvolvimento linear do livro, marcado pelo incremento da eficiência, partindo da argila para o papiro, deste para o papel, do papel para o digital e do digital para a “inteligência artificial”. Esses diferentes elementos estavam - ou ainda estão - inseridos num complexo social e material ao qual também se ligavam a leitura e a escrita, segundo condições de um tempo e de culturas específicas.
A escrita e seus produtos, por exemplo, surgiram como tecnologia social. Submetiam-se a um sistema coletivo rígido, restrito a uma pequena elite, atendendo a fins políticos ligados à administração da vida pública e ao poder religioso. Nesse contexto se inseriam as tabuletas de argila ou os papiros, cada qual equivalente a uma técnica material vinculada a necessidades sociais localizadas.
É inadequado tratar as antigas tabuletas de argila e os rolos de papiro como “livros” no sentido moderno. Antes, constituem testemunhos da diversidade de formas que as práticas da escrita e da leitura assumiram ao longo da história, bem como das funções sociais que satisfaziam. Em vez de uma linha unidirecional culminando no advento da “inteligência artificial”, a história revela uma variedade de caminhos possíveis para a escrita e seus suportes, a depender de escolhas políticas e sociais.
Modelos de linguagem e aprendizagem automatizada
Ao contrário do sugerido pelo artigo de jornal, a “inteligência artificial” não corresponde ao estágio final de uma suposta evolução progressiva do livro. A crítica sobre o tema tem alertado para a falácia da expressão, anotando que a proposta de uma inteligência artificial é fantasiosa, constituindo uma das táticas promocionais das empresas para viabilizar seus enormes investimentos em infraestrutura.
Para se referir às tecnologias em desenvolvimento, é mais correto empregar os termos “modelos de linguagem” e “aprendizado de máquina” ou “aprendizado automatizado”. Os modelos de linguagem funcionam por meio da aplicação de técnicas estatísticas à linguagem; consistem, no fundo, em modelos numéricos sofisticados.
Se a tecnologia tornou possível a elaboração automatizada de textos coerentes, os resultados dos modelos de linguagem vêm acompanhados de graves lacunas. Ao traçarem a relação matemática entre palavras, estão ausentes de qualquer consideração de seus significados. Produzem uma linguagem sintética, artificial, sem compromisso semântico.
Em contraste com o promovido pelas empresas de tecnologia, os modelos de linguagem apresentam, portanto, graves limitações. Entre os problemas identificados, incluem-se a produção de falsos argumentos, a inclusão de referências inexistentes, a fabricação de citações e outras formas de “alucinação”. Podem distorcer informações de uma fonte ou reproduzir seus vieses. Por serem construídos a partir de um princípio de padronização estatística, tendem à homogeneização.
Além disso, a utilização de modelos de linguagem viabiliza novas formas de plágio. Os textos produzidos pelos modelos, embora aparentem originalidade, podem constituir uma derivação - com trechos parafraseados, replicação de estruturas argumentativas ou reciclagem de conceitos - de trabalhos realizados por terceiros. Ao mapear estatisticamente o texto de um autor, especula-se que os modelos possam copiar seu estilo. Cria-se uma “zona cinzenta”, um tipo de plágio difícil de detectar com ferramentas tradicionais e que pode incentivar condutas impróprias.
No contexto atual de desregulamentação do ambiente digital, que fomenta a desinformação e o radicalismo, protege e estimula atos de injúria e difamação, o debate público mergulhou num poço sombrio. As técnicas de captura da atenção provocam grande prejuízo à saúde de crianças e adolescentes. Esse conjunto ganha intenso impulso com os modelos de linguagem e a aprendizagem automatizada.
Produção de livros e automação
O artigo opinativo publicado no jornal mostra a face contemporânea da colonialidade. Legitima-se o exercício do poder por parte de empresas de tecnologia — estrangeiras — e de seus controladores, apresentando-se os modelos de linguagem como consequência inevitável de um suposto processo de evolução do livro.
Ao mesmo tempo, ignoram-se graves problemas ligados à nova tecnologia, que exigiriam um debate público a fim de se estabelecerem escolhas políticas e sociais mais apropriadas ao bem coletivo. A colonialidade surte efeitos, pois a nova tecnologia vai sendo adotada, sem planejamento nem questionamento, em vários setores da sociedade.
Na indústria do livro, modelos de linguagem transformam toda a cadeia editorial. Editoras internacionais negociam o direito de uso de livros publicados para que empresas de tecnologia “treinem” seus modelos de linguagem. No Brasil e no exterior, explora-se a nova tecnologia como assistente na elaboração do livro e como ferramenta de automação do processo editorial.
No primeiro caso, usuários empregam os modelos para produzir livros - já existem dezenas de títulos disponíveis em livrarias virtuais. Sem uma delimitação clara, a contribuição da tecnologia para o ato criativo pode apresentar grande variação.
Pode funcionar como recurso de pesquisa e levantamento de dados e informações, servindo de matéria-prima para a escrita, ou oferecer auxílio na composição do enredo e no desenvolvimento de personagens. Em casos extremos, a criação individual se confunde com o texto gerado sinteticamente, colocando em questão fatores como estilo, originalidade e plágio.
No processo editorial, empregam-se os modelos na automatização da revisão e da edição do texto. Mais do que correções ortográficas e gramaticais, a tecnologia permite o aprimoramento do estilo - ressaltando elementos como fluidez ou coerência -, sem possuir, no entanto, a mesma qualidade de uma edição humana.
A automação também se estende à produção gráfica, contribuindo para a criação de capas, a formatação de impressos e e-books, a elaboração de sínteses e biografias - presentes, por exemplo, nas orelhas dos livros. A comercialização utiliza a tecnologia integrada a sistemas de recomendação de títulos em livrarias, análise de tendências de mercado e análise de vendas, entre outros.
Avanço cego
A principal razão por trás da adoção das novas tecnologias consiste na promessa de ganho de produtividade, inclusive para quem escreve: os modelos de linguagem facilitariam a elaboração de volumes maiores de texto, a serem convertidos em livros por meio de um processo editorial automatizado. Eis aqui uma das consequências mais deletérias da nova tecnologia: a tentativa de reduzir a literatura a uma mercadoria, despida de seu caráter artístico.
E quem lerá os livros fabricados em série pelo sistema tecnológico? Como identificar títulos merecedores de leitura num oceano de mesmices? Historicamente baixo no Brasil da colonialidade, o hábito de leitura entre adultos encontra-se em tendência declinante, sendo os produtos das empresas de tecnologia um dos possíveis fatores, devido à degradação que provocam na capacidade de concentração. Qual a serventia dos modelos de linguagem diante dessa realidade?
São várias as perguntas a respeito de um futuro com a penetração cada vez mais profunda das empresas de tecnologia no cotidiano das pessoas. Por enquanto, a única certeza é que avançamos de olhos vendados, sem saber em qual direção, mas que alguns pressentem levar à ascensão do autoritarismo.