<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, May 16, 2023, 4:45 PM Adrian Tymes via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div dir="ltr">On Tue, May 16, 2023 at 12:48 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Tue, May 16, 2023 at 11:56 AM Adrian Tymes via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Tue, May 16, 2023 at 9:33 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div><div><div><b>If we accept #2</b>, that zombies cannot think, believe, or know, then we end up with zombies that can solve complex problems without thinking, and zombies that can win at Jeopardy despite not knowing anything. This thinking without thinking, and knowing without knowing, appears to be an equally inconsistent notion.</div></div></div></div></div></blockquote><div><br></div><div>And yet this is exactly what LLMs are allegedly doing, with their internal models used as evidence for how they accomplish this.</div><div><br></div><div>You're going to need a lot more than "appears to be" for a proof, because to those who believe #2, there is no appearance of inconsistency here.</div></div></div></blockquote><div><br></div><div>Note that the "appears" referred to the level of inconsistency in the former argument, not the argument itself.</div><div><br></div><div>I have trouble conceiving of anything more convincing than zombies violating the law of noncontradiction, which is implied by both options:</div><div><br></div><div>Def: Zombies are "¬conscious ^ behaviorally-equivalent"</div><div>Def: B is a behavior (e.g. believing, knowing, thinking, or having the ability to write a book about consciousness) which implies consciousness</div></div></div></blockquote><div><br></div><div>Here is where you run into trouble.  Those who say that LLMs are behaviorally equivalent to conscious people but are not themselves conscious, define that  no specific behavior implies consciousness.  To say otherwise would lead to the logical contradiction you note.</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I think the "no B exists" assumption: "No specific behavior nor any aggregate set of behaviors implies the presence of a conscious mind." also leads to contradiction.</div><div dir="auto"><br></div><div dir="auto">Corrolary 1. Talking about one's innermost desires, thoughts, feelings, sensations, emotions, beliefs, does not require consciousness.</div><div dir="auto"><br></div><div dir="auto">Corrolary 2. One could claim to be conscious and be wrong for reasons that neither they, nor any other person could ever prove or even know. That is, there would be truths that stand outside of both objective and subjective reality.</div><div dir="auto"><br></div><div dir="auto">Corrolary 3. The information indicating the fact that one person is a zombie while another is not would have to stand outside the physical universe, but where then is this information held?</div><div dir="auto"><br></div><div dir="auto">Corrolary 4. For there to be no behavior indicative of consciousness implies no possible behavioral difference whether one is conscious or not. This information concerning one's conscious mental states must stand outside of physical chain of causality in one's mind in order to guarantee behavioral equivalence.</div><div dir="auto"><br></div><div dir="auto">It follows from corrolary 4 that we as physical beings can have no more access to this information than any zombie does, i.e. we have no more (or less) access to our own mental states than does a zombie.</div><div dir="auto"><br></div><div dir="auto">One's consciousness, defined as one's ability to access and report information concerning their internal mental states, must then be equivalent to that of a zombie. Thus one is no more, nor less, conscious than one's own zombie twin.</div><div dir="auto"><br></div><div dir="auto">Corrolary 4 follows from our assumption that there is no behavior B whose presence indicates consciousness. But it shows that consciousness must then be equivalent between a conscious person and their behaviorally identical zombie. But zombies were defined to not be conscious. This is a contradiction if we presume ourselves to be more conscious than our zombie twins.</div><div dir="auto"><br></div><div dir="auto">Jason </div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
</blockquote></div></div></div>