ChatGPT: 5 Erros de Principiante e Como Evitá-los

By Rafael Martins

À medida que os profissionais de TI começaram a utilizar ferramentas como o ChatGPT, também se aperceberam de pressupostos e ideias erradas relacionadas com o seu uso. Descobre os obstáculos mais comuns e como os evitar – para que possas tirar o melhor partido desta ferramenta!

Durante a utilização do ChatGPT, devemos estar sempre conscientes das suas implicações quando usado indevidamente. Por vezes, poderemos estar a prejudicar-nos e à nossa empresa ou clientes sem darmos conta disso.

Escolhi alguns exemplos reais, que te vão ajudar a perceber o quão fácil é incorreres nesse tipo de situações, baseados nas falsas expectativas e equívocos mais comuns.

Mas antes de mais, sabes como é que o ChatGPT funciona? Como podes tirar um bom proveito do mesmo? Se não sabes, começa por ler este artigo.

Falsas Expectativas & Veredicto

À medida que os profissionais de TI começaram a utilizar ferramentas como o ChatGPT, também se aperceberam de pressupostos e ideias erradas relacionadas com o seu uso.

Para que possas compreender melhor as limitações desta ferramenta, gostaria de partilhar alguns dos mitos mais comuns e esclarecer a veracidade dos mesmos.

Contextualização → Assumir que o ChatGPT detém um conhecimento profundo do contexto da conversa em questão.
- Veredicto → Falta-lhe retenção de contexto essencial, dependendo exclusivamente da informação facultada sem analisar interações prévias.
Fonte de informação dúbia → Acreditar que o ChatGPT pode fornecer informação atualizada em tempo real.
- Veredicto → Respostas são dadas por base nos dados usados no seu último treino, que poderão não incluir atualizações mais recentes.
Reconhecimento de Intenção → Assumir que a ferramenta consegue reconhecer a intenção do utilizador em qualquer interação.
- Veredicto → Facilmente poderá interpretar de forma errada informações ambíguas ou com falta de contexto.

Memorização de Conversas → Assumir que o ChatGPT possui uma memória em relação a interações passadas para processamento de novas respostas.
- Veredicto → Tal retenção não existe, levando a que novas interações sejam processadas de forma independente sem qualquer correlação para com interações passadas.

Pensamento Criativo → Acreditar que a ferramenta possui um verdadeiro pensamento criativo.
- Veredicto → Respostas são geradas com base em padrões obtidos através do seu treino, qualquer vislumbre de criatividade genuína é pura coincidência.
Considerações Morais e Éticos → Assumir que, por natureza, o ChatGPT adere a princípios éticos e morais.

Veredicto→ Respostas são geradas tendo por base padrões de dados. Instruções éticas deverão ser sempre priorizadas e facultadas de forma a orientar a sua resposta.

Ao compreendermos as limitações do modelo e clarificarmos expectativas, podemos aproveitar melhor o potencial do ChatGPT. Vamos agora apresentar alguns dos obstáculos que podem ocorrer se não seguirmos as melhores práticas.

Mas antes disso, se estás a questionar-te sobre como podes usar o ChatGPT para aumentar a tua produtividade no trabalho, neste artigo partilhamos contigo 9 sugestões!

Obstáculos ao Não Seguir as Boas Práticas e Como Evitá-los

Enquanto usamos o ChatGPT para nos auxiliar no nosso trabalho, é crucial termos noção dos potenciais obstáculos que podem surgir quando negligenciamos boas práticas. Ao explorarmos os possíveis erros vamos tentar preparar-te, através de conhecimentos práticos, para fazeres parte de uma cultura de responsabilidade e ética no uso profissional do ChatGPT.

Tendo em consideração os mitos acima descritos, abaixo exploraremos os obstáculos mais comuns.

1. Falhas de Comunicação

Questionar o ChatGPT sem facultar o devido contexto poderá resultar em interações que promovam respostas com intenções erradas, levando a uma falha de interpretação ou comunicação que poderão levar a outros problemas.

Caso A: Um engenheiro procura assistência do ChatGPT para analisar um problema no seu código.

Consequências: Uma falha de comunicação gerada neste ponto pode levar a mais falhas de comunicação e consequentes perdas de tempo que poderão inclusive afetar mais do que uma equipa.

Caso B: Uma equipa procura assistência para esclarecer um requisito do projeto através do ChatGPT.

Consequências: A resposta facultada gera confusão, criando erros de interpretação que poderão levar a esforços desenquadrados, atrasos nos prazos inicialmente previstos e desafios desnecessários para alcançar os objetivos do projeto.
Sugestão: Providenciar questões claras e específicas. Aconselhamos-te a especificar as mesmas ao detalhe e facultando todo o contexto necessário. Fornecer exemplos de código, partilhando também alguns detalhes específicos ao projeto irá aumentar a probabilidade de obter uma resposta de qualidade. Adicionalmente, dividir o teu problema em problemas mais pequenos permitirá que o modelo responda às mesmas por etapas, o que irá possibilitar contornar a falta de retenção de contexto por parte da ferramenta.

2. Danos na Reputação

O uso de respostas sem uma análise crítica, poderá resultar em repercussões públicas, pois poderão ser percepcionadas como tendenciosas, ofensivas e imprecisas.

Caso A: Um consultor emprega o ChatGPT para criar um comunicado ao cliente sem aplicar uma análise crítica na resposta adquirida.

Consequências: A resposta pode subtilmente implicar uma crítica ao raciocínio do cliente. Este poderá considerar a resposta ofensiva, podendo escalar para uma reclamação pública que poderá danificar a reputação da empresa e a relação que tem com os seus clientes.

Caso B: Um engenheiro depende do ChatGPT para criar a release notes de um projeto que vai ser lançado.

Consequências: Devido a uma má interpretação por parte da ferramenta, tendo por base os dados facultados, esta poderá induzir que uma dada funcionalidade irá ser lançada, quando na realidade não vai. Algo que poderá resultar num sentimento amargo na comunidade que vai usar o produto.
Sugestão: Prioriza uma análise e edição humana do conteúdo, especialmente para comunicações críticas e dirigidas aos clientes. Define critérios para diferenciar conteúdo tendencioso, ofensivo ou que não reflete a realidade. Conduz várias sessões de análise ao conteúdo extraído e criado por estas ferramentas, focando em deteção de vírus e análise de sensibilidade.

3. Consequências Legais e Regulatórias

Usar ferramentas como o ChatGPT sem avaliar a informação adquirida, poderá levantar questões regulatórias, incluindo violações de privacidade ou incumprimentos de proteção de dados.

Caso A: Uma equipa usa o ChatGPT para interações com o cliente sem implementar nenhum mecanismo de proteção dos seus dados.

Consequências: O uso indevido de dados do consumidor resulta na violação da sua privacidade, possivelmente levando a consequências legais e danificando a reputação da empresa.

Caso B: A empresa usou o ChatGPT para esboçar uma proposta de projeto, mas esqueceu-se de expor o uso de IA na respetiva documentação a entregar ao possível cliente.

Consequências: A falta de transparência poderá levantar questões legais quando descoberto pelo cliente. Tal poderá resultar em litígios contratuais e ações legais pela partilha ilegal de detalhes privados.
Sugestão: Mantém-te atualizado no que diz respeito à proteção de dados e às respetivas leis. Deves estabelecer políticas claras e públicas no que diz respeito ao uso de dados privados para que não sejas apanhado desprevenido. Mantém sempre transparência nas interações existentes no que diz respeito ao uso destas ferramentas.

4. Vulnerabilidades de Segurança

Aceitar de ânimo leve as respostas automatizadas, sem avaliar os potenciais riscos e repercussões, poderão expor o nosso sistema a vulnerabilidades, arriscando o acessos e usos indevidos e não autorizados.

Caso A: Um engenheiro de software decide usar o ChatGPT para procurar sugestões para o seu código.

Consequências: Caso a resposta falhe em detectar vulnerabilidades de segurança ou sugira práticas de programação inseguras, poderás estar inadvertidamente a introduzir fraquezas exploráveis na base de código.

Caso B: Um engenheiro decide usar o ChatGPT para gerar exemplos de código para integração com APIs externas.

Consequências: Tais exemplos poderão não contemplar validação de dados de entrada, tratamento de erros, ou uso de protocolos de segurança, expondo o projeto a vulnerabilidades de API.
Sugestões: Prioriza a validação dos dados que entram no sistema. Tem em conta que as medidas de segurança podem estar fora do âmbito das respostas da IA, por isso faz a tua própria investigação. Certifica-te que usas versões atualizadas do teu projeto e verifica regularmente se existem atualizações e patches de segurança.

5. Desafios na Manutenção de Código

O uso de sugestões de código sem uma análise profunda do seu funcionamento e fundamentos, poderão levar à falta de documentação e comprometer futuras colaborações entre engenheiros. Além disso, as futuras atualizações da base de código serão mais complexas.

Caso A: Um engenheiro utiliza o ChatGPT para refactorização automática de código.

Consequências: A falta de compreensão contextual, pode introduzir alterações de código inconsistentes, o que torna bastante difícil para a equipa manter uma base de código coesa e logicamente estruturada.

Caso B: Um engenheiro decide usar o ChatGPT para o ajudar a adicionar uma nova funcionalidade ao seu projeto.

Consequências: Devido à falta de contexto facultada pelo engenheiro no que diz respeito à arquitetura do código atual, a resposta poderá introduzir complexidades desnecessárias, tornando o código difícil de perceber e de manter.
Sugestão: Usa o ChatGPT como uma ferramenta adicional e não como a principal para tarefas críticas dentro do teu projeto. Favorece sempre a avaliação por parte da tua equipa ou outros engenheiros no uso de respostas automatizadas. Avalia com alguma regularidade a qualidade do código introduzido.