<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Apr 8, 2023, 12:14 PM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><br></div><div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Apr 8, 2023 at 9:31 AM Jason Resch <<a href="mailto:jasonresch@gmail.com" target="_blank" rel="noreferrer">jasonresch@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="auto"><br><br><div class="gmail_quote" dir="auto"><div dir="ltr" class="gmail_attr">On Sat, Apr 8, 2023, 10:45 AM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com" target="_blank" rel="noreferrer">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div><br></div><div>On Sat, Apr 8, 2023 at 3:43 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer noreferrer" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="auto"><div><br>There is phenomenal consciousness. That I would call awareness of first person non-sharable information concerning one's internal states of mind.</div></div></blockquote><div dir="auto"><br></div><div dir="auto">It is this phenomenal consciousness to which I refer. If you do not think there something it is like to be a large language model then we have no disagreement.</div></div></div></blockquote></div><div dir="auto"><br></div><div dir="auto">I believe there is something it is like to be for either the LLM, or something inside it. </div></div></blockquote><div dir="auto"><br></div><div dir="auto">Not sure what you mean by something inside it. </div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Just as each of our hemispheres is independently conscious, there may be pieces within the transformer, sub modules, which are conscious in ways that the entire transformer network is not.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto">A philosopher named Thomas Nagel wrote a famous paper titled something like “What is it like to be a bat?” That is the sense that I mean here. Do you think there something it is like to be GPT-4? </div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Yes.</div><div dir="auto"><br></div><div dir="auto">I define consciousness as awareness of any kind, having a point of view, having something it is like to be, these are all synonymous in my understanding.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto">When you ask it a question and it replies, is it aware of its own private first person experience in the sense that we are aware of our private experience?</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">It has awareness. I don't know and can't say how it is like or unlike our own, no more than I can say how much like or unlike my consciousness experience is from yours. I believe there is at least a countable infinity of different unique possible consciousness states, nearly as varied as different mathematical objects in the platonic realm.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto"> Or does it have no awareness of any supposed experience?</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">It has awareness in my opinion, as it has demonstrated a perception of the words I feed it by virtue of crafting a sensible reply in response.</div><div dir="auto"><br></div><div dir="auto">You can deny that awareness only if you find it consistent to speak of an "unaware awareness."</div><div dir="auto"><br></div><div dir="auto">Jason</div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="auto"><div class="gmail_quote" dir="auto"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="auto"><div dir="auto"></div></div></blockquote></div></div>
</blockquote></div></div>
</blockquote></div></div>
</blockquote></div></div></div>