Página inicial > Filosofia da Ciência e da Técnica > Dreyfus (OQC): Introdução

O que os computadores (ainda) não podem fazer

Dreyfus (OQC): Introdução

segunda-feira 1º de novembro de 2021, por Cardoso de Castro

      

Excelente reflexão sobre as possibilidades concretas da informática, em particular a concretude das promessas da inteligência artificial. Segue um excerto   da introdução à primeira edição (MIT), What Computers Can’t Do.

      

Esta [nova] edição de What Computers Can’t Do marca   não apenas uma mudança   de editor e uma ligeira mudança   de título; também marca uma mudança de status. O livro agora oferece não uma posição   controversa em um debate   em andamento, mas uma visão   de um período passado   da história. Pois agora que o século XX está chegando ao fim, está ficando claro que um dos grandes sonhos do século também está terminando. Quase meio século atrás, o pioneiro da computação Alan Turing   sugeriu que um computador digital de alta velocidade, programado com regras e fatos, pode exibir um comportamento   inteligente. Assim nasceu o campo   mais tarde denominado inteligência   artificial (IA). Depois de cinquenta anos de esforço, entretanto, agora está claro para todos, exceto alguns obstinados, que essa tentativa de produzir inteligência genérica falhou. Essa falha não significa que esse tipo de IA seja impossível; ninguém foi capaz de apresentar uma prova tão negativa. Em vez disso, descobriu-se que, pelo menos por enquanto, o programa de pesquisa baseado na suposição de que os seres humanos produzem inteligência usando fatos e regras chegou a um beco sem saída, e não há razão para pensar que possa ter sucesso. De fato, o que John Haugeland chamou de Good Old-Fashioned AI (GOFAI) é um caso paradigmático do que os filósofos da ciência chamam de degenerescente programa de pesquisa.

Um degenerescente programa de pesquisa, conforme definido por Imre Lakatos, é um empreendimento científico que começa com grande promessa, oferecendo uma nova abordagem que leva a resultados impressionantes em um domínio   limitado. Quase inevitavelmente, os pesquisadores vão querer tentar aplicar a abordagem mais amplamente, começando com problemas que são de alguma forma semelhantes ao original. Contanto que tenha sucesso, o programa de pesquisa se expande e atrai seguidores. Se, no entanto, os pesquisadores começarem a encontrar fenômenos inesperados, mas importantes, que consistentemente resistem às novas técnicas, o programa irá estagnar e os pesquisadores irão abandoná-lo assim que uma abordagem alternativa progressiva se tornar disponível.

Podemos ver esse mesmo padrão na história da GOFAI. O programa começou de forma auspiciosa com o trabalho   de Allen Newell e Herbert Simon na RAND. No final da década   de 1950, Newell e Simon provaram que os computadores podiam fazer mais do que calcular  . Eles demonstraram que as cadeias de bits de um computador podem representar qualquer coisa, incluindo recursos do mundo real  , e que seus programas podem ser usados ​​como regras para relacionar esses recursos. A estrutura   de uma expressão   no computador, então, poderia representar um estado   de coisas no mundo cujas características tivessem a mesma estrutura, e o computador poderia servir como um sistema de símbolos físicos armazenando e manipulando tais representações. Dessa forma, afirmam Newell e Simon, os computadores podem ser usados ​​para simular aspectos importantes da inteligência. Assim nasceu o modelo de processamento de informações da mente  .


Excerto   da Introdução da primeira edição do livro

português

Desde que os gregos inventaram a lógica   e a geometria, a ideia de que todo raciocínio poderia ser reduzido a algum tipo de cálculo — de modo que todos os argumentos pudessem ser expostos de uma vez por todas - tem fascinado a maioria dos pensadores radicais da tradição   ocidental. Sócrates   foi o primeiro a dar voz a essa visão. A história da inteligência artificial bem poderia ter início em torno de 450 a.C. quando (segundo Platão  ) Sócrates demanda a Euthyphro, um colega ateniense que, em nome da piedade  , está para entregar seu próprio   pai   por homicídio: "Quero saber o que é característico da piedade que faz toda ação piedosa ... que eu possa voltar-me a ela e usá-la como um padrão pelo qual julgue suas ações e aquelas de outros homens. [1] Sócrates está indagando de Euthyphro o que os modernos teóricos da computação chamariam de um "procedimento efetivo" (effective procedure), "um conjunto   de regras que nos diz exatamente, de momento a momento, como comportar" [2].

Platão generalizou esta procura de uma certeza   moral numa demanda epistemológica. Consoante Platão, todo conhecimento deve ser enunciado em definições explícitas que qualquer um possa aplicar. Se alguém não pudesse expressar   seu "know-how" em termos de tais instruções explícitas — se seu saber como (knowing how) não pudesse se converter em saber isto, não seria saber mas simples crença. De acordo   com Platão, os cozinheiros, por exemplo, que procedem pelo gosto   e pela intuição  , e os poetas que trabalham com a inspiração  , não têm conhecimento : o que fazem não envolve compreensão   e não pode ser compreendido. Mais genericamente, o que não se pode enunciar explicitamente em precisas instruções – todas as áreas do pensamento humano que requerem habilidade  , intuição ou um senso de tradição – é relegado a uma espécie de desconcerto arbitrário [arbitrary fumbling].

Platão, porém, não era um cibernético na acepção plena da palavra   (embora, segundo Norbert Wiener  , tenha sido ele quem primeiro empregou o termo), pois Platão procurava por critérios semânticos ao invés de sintáticos. Suas regras pressupunham que as pessoas compreendiam os significados dos termos constitutivos. Na República  , Platão diz que Compreensão (o grau escalar de sua linha dividida representando todo saber) depende da Razão, que envolve uma análise dialética e, em última instância, uma intuição do significado dos conceitos fundamentais utilizados na compreensão. Destarte, Platão admite que suas instruções não podem ser completamente   formalizadas. Semelhantemente, um moderno "expert" em computação, Marvin Minsky, observa, após tentativamente apresentar uma noção   platônica de procedimento efetivo: "Esta tentativa de definição está sujeita à crítica de que a interpretação   das regras fica a depender de alguma pessoa   ou agente  ." [3]

Aristóteles  , que divergia de Platão nesta, como na maioria das questões referentes à aplicação da teoria   à prática, observou com satisfação que a intuição era necessária para se aplicarem as regras platônicas.

Todavia não é fácil descobrir uma fórmula pela qual possamos determinar até que onde e até que ponto um homem   pode errar até incorrer em reprovação. Mas esta dificuldade   de definição é inerente em todo objeto de percepção; tais questões de gradação são limitadas às circunstâncias   do caso individual, onde nosso único critério

é

a percepção. [4]

Para o projeto platônico atingir completude uma ruptura é requerida: todo apelo à intuição e ao julgamento   deve ser eliminado. Como Galileu   descobriu que se poderia encontrar um puro formalismo para se descrever o movimento físico ignorando-se qualidades secundárias e considerações teleológicas, assim poder-se-ia supor, um Galileu do comportamento humano teria êxito na redução de todas as considerações semânticas (apelo aos significados) a técnicas de manipulação sintática (formal).

A crença de que tal formalização do saber deve ser possível logo passou a dominar o pensamento ocidental. Ela já expressava uma demanda básica, moral e intelectual e o sucesso da ciência física pareceu implicar para os filósofos do século dezesseis, como ainda parece sugerir a pensadores como Minsky que a demanda poderia ser satisfeita. Hobbes   foi o primeiro a tornar explícita a concepção sintática de pensamento como cálculo: "Quando o homem raciocina, nada mais faz senão conceber uma soma total decorrente da adição de parcelas - escreveu - pois a RAZÃO ... nada mais é que cômputo..." [5].

original

Since the Greeks invented logic and geometry, the idea   that all reasoning might be reduced to some kind of calculation—so that all arguments could be settled once and for all—has fascinated most of the Western tradition’s rigorous thinkers. Socrates was the first to give voice to this vision. The story of artificial intelligence might well   begin around 450 B.c. when (according to Plato) Socrates demands of Euthyphro, a fellow Athenian who, in the name of piety, is about to turn in his own father for murder: “I want to know what is characteristic of piety which makes all actions pious... that I may have it to turn to, and to use as a standard whereby to judge your actions and those of other men.”. Socrates is asking Euthyphro for what modem computer theorists would call an “effective procedure,” “a set of mles which tells us, from moment to moment, precisely how to behave.” Plato generalized this demand for moral certainty into an epistemological demand. According to Plato, all knowledge must be stateable in explicit definitions which anyone could apply. If one could not state his know-how in terms of such explicit instmctions—if his knowing how could not be converted into knowing that—it was not knowledge but mere belief. According to Plato, cooks, for example, who proceed by taste and intuition  , and poets who work from inspiration, have no knowledge: what they do does not involve understanding and cannot be understood. More generally, what cannot be stated explicitly in precise instructions—all areas of human thought which require skill, intuition, or a sense of tradition—are relegated to some kind of arbitrary fumbling.

But Plato was not yet fully a cyberneticist (although according to Norbert Wiener he was the first to use the term), for Plato was looking for semantic rather than syntactic criteria. His rules presupposed that the person understood the meanings of the constitutive terms. In the Republic Plato says that Understanding (the rulelike level of his divided line representing all knowledge) depends on Reason, which involves a dialectical analysis   and ultimately an intuition of the meaning of the fundamental concepts used in understanding. Thus Plato admits his instructions cannot be completely formalized. Similarly, a modem computer expert, Marvin Minsky, notes, after tentatively presenting a Platonic notion of effective procedure: “This attempt at definition is subject to the criticism that the interpretation of the rules is left to depend on some person or agent.”

Aristotle, who differed with Plato in this as in most questions concerning the application of theory to practice, noted with satisfaction that intuition was necessary to apply the Platonic rules:

Yet it is not easy to find a formula by which we may determine how far and up to what point a man may go wrong before he incurs blame. But this difficulty of definition is inherent in every object of perception; such questions of degree are bound up with the circumstances of the individual case, where our only criterion is the perception.

For the Platonic project to reach fulfillment   one breakthrough is required: all appeal to intuition and judgment must be eliminated. As Galileo discovered that one could find a pure formalism for describing physical motion by ignoring secondary qualities and teleological considerations, so, one might suppose, a Galileo of human behavior might succeed in reducing all semantic considerations (appeal to meanings) to the techniques of syntactic (formal) manipulation.

The belief that such a total formalization of knowledge must be possible soon came to dominate Western thought. It already expressed a basic moral and intellectual demand, and the success of physical science seemed to imply to sixteenth-century philosophers, as it still seems to suggest to thinkers such as Minsky, that the demand could be satisfied. Hobbes was the first to make explicit the syntactic conception of thought as calculation: “When a man reasons, he does nothing else but conceive a sum total from addition of parcels,” he wrote, “for REASON ... is nothing but reckoning. . . .”


Ver online : What computers still can’t do: a critique of artificial reason (new revised edition)


[1Plato, Euthyphro, VII, trans. F. J. Church (New York: Library of Liberal Arts), 1948, p. 7.

[2Marvin Minsky, Computation: Finite and Infinite Machines (Englewood Cliffs, N.J.: Prentice-Hall, 1967), p. 106. Of course, Minsky is thinking of computation and not moral action.

[3Ibid.

[4Aristotle, Nicomachean Ethics, trans. J. A. K. Thomson as The Ethics of Aristotle (New York: Penguin Books, 1953), p. 75.

[5Hobbes, Leviathan (New York: Library of Liberal Arts, 1958), p. 45.