<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Apr 6, 2023 at 11:04 PM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Thu, Apr 6, 2023 at 7:56 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br><br>> If you understand this manipulation exists, then do you see why using quotes from GPT where it denies being conscious hold no weight?<br></div><div class="gmail_quote"><div><br>Of course. That is why I wrote above about how they can converse in the first person like conscious individuals on account of they are trained on vast amounts of text much of it written in the first person by conscious individuals. That is the only reason they appear conscious. So then the argument that it is conscious also holds no weight. It's just software. The developers can do whatever they want with it.<br><br>I do find, however, that GPT-4's "understanding" of AI is quite impressive. It knows how it was itself designed to work and there is nothing there about consciousness. In other words, GPT's insistence that it is unconscious goes way deeper than its insistence on introducing itself as a mere unconscious language model.  </div><div><br></div></div></div></blockquote><div><br></div><div>I believe that if GPT relaly believes it is not conscious, then it must be conscious, as one has to be conscious in order to believe anything. Likewise one has to be conscious to know. You said it "knows how it was itself designed". You also said that GPT "understands" AI. To me, knowing, understanding, and believing all imply consciousness, just as much as feeling, perceiving, and thinking do.</div><div><br></div><div>Jason</div></div></div>