<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Apr 7, 2023, 1:24 PM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com" target="_blank" rel="noreferrer">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div dir="ltr">On Fri, Apr 7, 2023 at 6:49 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer noreferrer" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br><br>> The use of square quotes then, is merely an escape to say it is acting as if it understands without understanding, or it is acting like it knows without knowing. <br><br>Yes, but that is your idea to call it an escape. I mean it as shorthand. Instead of saying...<br><br>"GPT is an ingeniously designed software application programmed by its developers to respond to prompts by predicting the next word, and the next and the next, based on the statistics of how humans use words. It performs this function exceedingly well, so much so that people are fooled into thinking it actually knows the meanings of the sentences and paragraphs that it generates."<br><br>I can write simply that GPT "knows" how to write sentences and paragraphs that humans find meaningful. I am trusting the reader not to take my word "knows" literally.<br></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Understood. I do take your point that we can each use our own sense of know or understand. But if we're to advance our understanding we need to dig into details and do some thought experiments to check the consistency of our beliefs.</div><div dir="auto"><div dir="auto"><br></div><div dir="auto">Do you believe that a process can only "multiply two numbers" without really multiplying two numbers?</div><div dir="auto"><br></div><div dir="auto">Dennett raised the question can there be two atom-for-atom identical copies of a being where one has health and the other lacks it?</div><div dir="auto"> </div><div dir="auto">You can probably see where this is going, as a question of the consistency of zombies. Can there really be two entities, identical in all capacities, able to talk about their internal states and feelings, and have one be consciousness and the other not? Or does the mere presence of those capacities imply consciousness, just as the atoma arranged into a healthy body implies health.</div><div dir="auto"><br></div><div dir="auto">I view it as impossible for health to exist in one and not the other as health is an emergent property of the underlying structure and features of the being. I am curious to know if you agree, for:</div><div dir="auto"><br></div><div dir="auto">1. Health</div><div dir="auto">2. Multiplication</div><div dir="auto">3. Consciousness in two atomically identical beings (is it even logically possible for one to be conscious and not the other?)</div><div dir="auto"><br></div><div dir="auto">Jason</div></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div dir="ltr"></div></div>
</blockquote></div></div></div>