Cansado de Neuro-lixo: Uma Análise Honesta do Porquê Não Podemos Viver Sem Ele

Cansado de Neuro-lixo: Uma Análise Honesta do Porquê Não Podemos Viver Sem Ele

Percebi uma tendência: os artigos mais populares em TI são reclamações. Reclamações sobre provedores, inteligência artificial, sites que ficaram indisponíveis. E os comentários mais populares são: "Cansado de neuro-lixo". Mas poucas pessoas entendem que nem todos os especialistas técnicos sabem escrever artigos. Um engenheiro pode projetar um cluster tolerante a falhas, mas não sabe como construir uma narrativa e escolher metáforas. Os algoritmos processam milhões de páginas por segundo e parecem ser a solução perfeita para o problema.

Por que as redes neurais geram código morto em vez de soluções simples

As redes neurais têm características que as tornam assistentes indispensáveis. Elas podem processar uma enorme quantidade de informações em segundos, não importa em que idioma estejam escritas. Incluindo linguagens de programação. A rede neural muda instantaneamente de Python para Assembler, coleta informações de artigos em russo, francês e chinês. Para ela, isso não é um problema. Ela é capaz de estruturar e agrupar dados que uma pessoa nem entenderia.

Mas há também o lado negativo. Digamos que você tenha 20 frases ou sentenças que precisam ser agrupadas logicamente em 10 arquivos de texto. Você pede à rede neural para reagrupar essas frases por significado. O algoritmo gera setecentas linhas em Python que nem estão instaladas no computador. O script certamente não funcionará. A tentativa de corrigir o erro aciona o mecanismo de compensação.

Ela começa a sobrepor novas funções às quebradas. Em tentativas de corrigir um erro de sintaxe no final do arquivo, o algoritmo gera mais dez mil linhas de código morto. A janela de contexto transborda de lixo, o modelo perde o fio da meada e começa a inventar variáveis. Quanto mais texto o modelo gera para corrigir o erro, mais o foco na tarefa original se torna turvo. O modelo escreve centenas de scripts, onde tenta realizar o agrupamento por apenas uma palavra de toda a frase e, a cada vez, erra e, a cada vez, diz que agora tudo vai funcionar, apenas uma vírgula foi omitida.

O resultado obtido leva mais tempo para ser analisado do que simplesmente pegar e copiar todas as linhas manualmente. O engenheiro gasta horas lendo o delírio de outra pessoa, tentando encontrar um colchete incorreto em dez mil linhas. São essas compensações que transformam uma tarefa simples em um pesadelo arquitetônico.

Cegueira regulatória dos algoritmos

O modelo acredita sinceramente que o Regulamento Geral de Proteção de Dados (GDPR) europeu é um padrão universal. Ao projetar uma infraestrutura local, o algoritmo exigirá o cumprimento de regras que não têm força legal na região. A situação com as ordens regulatórias parece ainda pior. O modelo se refere com confiança à ordem FSTEC nº 17, que já não é relevante. O algoritmo congelou no momento de seu treinamento. Como resultado, o especialista recebe um plano bem elaborado para a implementação de medidas de proteção, que não passará na primeira inspeção de auditoria.

A cegueira também se manifesta na compreensão das ameaças. O modelo global se concentra em ataques populares no segmento ocidental da rede. Os vetores locais de comprometimento por meio de software de contabilidade específico ou vulnerabilidades em sistemas domésticos de fluxo de documentos permanecem fora de sua atenção. O engenheiro é forçado a reescrever manualmente cada segunda recomendação, reduzindo os benefícios da automação a zero.

A velocidade de geração mata a etapa de verificação

Por que todos reclamam das redes neurais, mas continuam a usá-las? Digamos que eu precise escrever um artigo sobre algum tópico. Posso pensar na estrutura, escrever, reler, corrigir erros e imprecisões. Procurar informações relevantes. E aproximadamente nessa sequência. Eu até desenvolvi uma fobia de colocar travessões longos...

Ou posso pedir a uma rede neural para escrever um artigo e apenas corrigir os erros, e com a ajuda da mesma rede neural. Parece um plano perfeito. Só que, na realidade, terei preguiça de procurar erros e verificar novamente os dados. Não porque sou preguiçoso, mas porque não faço ideia sobre o que está escrito. Essa é a diferença: quando escrevo sozinho, escrevo sobre o que sei. Não preciso verificar a confiabilidade. O cérebro simplesmente não produz informações que não pode confirmar com sua própria experiência ou fontes lidas.

Mas acabei de ver como o que me levaria horas foi feito em minutos. Por que verificar novamente, porque a verificação levará horas? A velocidade de geração cria uma falsa sensação de trabalho concluído. O autor publica o texto sem uma verificação aprofundada. Fatos inventados e links inexistentes penetram no material.

E dizem que a inteligência artificial não tem criatividade. São as pessoas que não têm criatividade para inventar algo novo do nada. Para a inteligência generativa, isso não é um problema.

A singularidade do conteúdo existe apenas para este diálogo

A singularidade do conteúdo também sofre. A rede neural não sabe que já escreveu um milhão de artigos exatamente iguais. Realmente únicos - para este diálogo. Globalmente, a rede é preenchida com artigos idênticos com diferentes conjuntos de palavras. Os mecanismos de busca começam a classificar a emissão com base no critério da presença de um rastro humano, porque o ruído algorítmico tornou as métricas tradicionais inúteis.

O que me motivou a escrever este artigo foi outro artigo que falava sobre como uma pessoa viu um brinquedo robô superinteligente a um preço muito baixo. Mas ele perdeu o link e não consegui ter certeza da veracidade.

E pensei: onde estão as provas? Você pode escrever que acabou de ver um anúncio vendendo uma Lamborghini pelo preço de um Lada Vesta. E isso se tornou possível devido à redução de custos de produção, automação de processos e tudo mais que há muito tempo tornaria todos os produtos gratuitos.

Por que a automação não torna os produtos mais baratos

Sério, todo ano a mesma coisa. Todas as indústrias se esforçam para tornar seus produtos mais baratos, introduzem novas tecnologias, demitem funcionários desnecessários. Só que os produtos não ficam mais baratos, ficam mais caros. A redução dos custos de produção nunca é transferida para o consumidor final na forma de uma redução de preço. As empresas direcionam os fundos economizados para expandir a equipe de marketing, complicar as cadeias de suprimentos e criar uma escassez artificial. O mercado absorve qualquer eficiência, transformando-a em lucro adicional para os acionistas.

Os produtos não ficam mais baratos. Eles são cobertos por assinaturas e recursos pagos. A automação da produção de automóveis não levou ao aparecimento de carros super baratos. Em vez disso, os modelos básicos perderam os botões físicos e uma taxa de assinatura mensal apareceu para aquecimento dos assentos. O progresso tecnológico aumenta a margem das corporações, e não o poder de compra da população.

É lucrativo para os fabricantes complicar os produtos. Um produto barato e confiável destrói as vendas repetidas. A automação permite a produção de dispositivos complexos com uma vida útil planejada, usando componentes baratos. Sim, o custo de produção pode diminuir, mas então o preço do marketing, publicidade e tudo mais aumentará.

A expectativa de benefícios gratuitos da automação continua sendo a ilusão mais persistente da modernidade. As pessoas continuam esperando a queda de preços, enquanto as corporações monetizam o próprio fato da existência da tecnologia.

As pessoas já estão trabalhando na inteligência artificial que requer enormes capacidades de computação. O que é mais caro que ouro agora? Placas de vídeo? O consumo de energia dos data centers está crescendo exponencialmente. Regiões inteiras estão sofrendo com a escassez de eletricidade devido aos novos clusters de computação. Os engenheiros estão projetando sistemas de resfriamento com nitrogênio líquido, porque o fluxo de ar já não é suficiente. Especialistas atendem milhares de servidores 24 horas por dia, garantindo o funcionamento ininterrupto dos algoritmos.

A automação deveria ter libertado as pessoas da rotina. Em vez disso, as pessoas estão cavando trincheiras para cabos, montando racks e configurando equipamentos de rede para redes neurais. A pegada ambiental do treinamento de um grande modelo é comparável às emissões anuais de centenas de carros.

As expectativas eram opostas à realidade. Os robôs não substituíram as pessoas nas fábricas. Eles criaram novas fábricas para produzir os próprios robôs. As redes neurais não automatizaram a rotina. Elas exigiram um exército de especialistas para manter seu trabalho. O progresso tecnológico não tornou os produtos mais baratos. Ele monetizou o próprio processo de computação. A automação criou uma nova forma de feudalismo digital. O proprietário da infraestrutura controla o acesso à inteligência. O locatário paga aluguel por cada solicitação. O usuário final nem sequer suspeita que seus dados estão treinando um modelo, pelo uso do qual ele pagará mais tarde. O ciclo está completo. As pessoas atendem o sistema, que atende as pessoas.