Este estudo problematiza o crescimento do uso da inteligência artificial (IA), mais especificamente dos Modelos de Linguagem de Grande Porte (LLMs), em funções associadas à atuação de terapeutas e conselheiros. Para tensionar essa questão, retoma-se o problema clássico formulado por Turing: “podem as máquinas pensar?”, atualizando-o no paradigma contemporâneo, no qual a discussão deixa de ser meramente metodológica e adentra o âmbito ontológico. Nesse sentido, analisam-se os limites éticos, conceituais e políticos implicados na atribuição de subjetividade humana às máquinas no contexto das práticas psicoterapêuticas e de apoio emocional. Trata-se de uma pesquisa qualitativa, de abordagem teórica e interdisciplinar. Como procedimento metodológico, adotou-se uma revisão narrativa crítica da literatura científica brasileira publicada nos últimos cinco anos sobre o uso de LLMs na Psicologia. O aporte conceitual articula a crítica ao reducionismo mecanicista, ao imperialismo computacional e ao determinismo tecnológico, compreendendo a tecnologia como artefato político. Como fundamento epistemológico, adota-se a Psicologia Histórico-Cultural. Os resultados indicam que a emulação funcional da linguagem realizada pelos LLMs não constitui evidência de pensamento ou consciência. Compreende-se, em contraposição, o pensamento humano como uma atividade relacional, corporal, afetiva e historicamente mediada, indissociável da experiência vivida e das relações sociais. A crescente tendência à antropomorfização dos chatbots é compreendida como expressão de uma racionalidade instrumental que reduz o psiquismo a dados mensuráveis. Por fim, alerta-se para os riscos éticos envolvidos na utilização dessas tecnologias e reafirma-se a insubstituibilidade do julgamento clínico e da práxis humana no acolhimento psicológico.