<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Apr 7, 2023 at 1:33 AM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Fri, Apr 7, 2023 at 12:16 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br><br>I believe that if GPT relaly believes it is not conscious, then it must be conscious, as one has to be conscious in order to believe anything. Likewise one has to be conscious to know. You said it "knows how it was itself designed". You also said that GPT "understands" AI. To me, knowing, understanding, and believing all imply consciousness, just as much as feeling, perceiving, and thinking do.<br><br>As I wrote in this thread a couple of days ago, I need to remember to put those terms in scare quotes lest I appear to be making the same mistake I am railing against. I do not believe that GPT actually believes or knows or understands anything whatsoever, but "believes" and "knows" and "understands" are convenient shorthand.<br></div></div></blockquote><div><br></div><div>How is "belief" different from 'belief'?</div><div>How is "know" different from 'know'?</div><div>How is "understand" different from 'understand'?</div><div><br></div><div>If there is no difference that makes a difference, they are identical. The use of square quotes then, is merely an escape to say it is acting as if it understands without understanding, or it is acting like it knows without knowing. But there are simple tests for knowledge and understanding (e.g. asking questions). To only be able to "know" the capital of France is Paris, and to say that this is somehow different *really* knowing the capital of France is Paris, is as troubling as saying something only "multiplies two numbers" it isn't <i>really multiplying two numbers</i>, it is only giving us the appearance that it does, when it returns the correct product for any two multiplicands we supply it.</div><div><br></div><div>The idea of using square quotes for these terms reminds me of how Daniel Dennet described as p-zombies with second-order beliefs, using words like "thinkZ" to describe zombie thinking-without-really thinking:</div></div><blockquote style="margin:0 0 0 40px;border:none;padding:0px"><div class="gmail_quote"><div>"Zimboes thinkZ they are conscious, thinkZ they have qualia, thinkZ they suffer pains – they are just 'wrong' (according to this lamentable tradition), in ways that neither they nor we could ever discover!"</div></div></blockquote><br><div>I find it a retreat -- a way of using language to describe what we plainly see, while remaining in denial of the implications of the observed behavior.</div><div><br></div><div>Do you believe that a process can only "multiply two numbers" without really multiplying two numbers?</div><div><br></div><div>Jason</div></div>