<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, May 16, 2023 at 11:56 AM Adrian Tymes via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Tue, May 16, 2023 at 9:33 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div><div><div><b>If we accept #2</b>, that zombies cannot think, believe, or know, then we end up with zombies that can solve complex problems without thinking, and zombies that can win at Jeopardy despite not knowing anything. This thinking without thinking, and knowing without knowing, appears to be an equally inconsistent notion.</div></div></div></div></div></blockquote><div><br></div><div>And yet this is exactly what LLMs are allegedly doing, with their internal models used as evidence for how they accomplish this.</div><div><br></div><div>You're going to need a lot more than "appears to be" for a proof, because to those who believe #2, there is no appearance of inconsistency here.</div></div></div></blockquote><div><br></div><div>Note that the "appears" referred to the level of inconsistency in the former argument, not the argument itself.</div><div><br></div><div>I have trouble conceiving of anything more convincing than zombies violating the law of noncontradiction, which is implied by both options:</div><div><br></div><div>Def: Zombies are "¬conscious ^ behaviorally-equivalent"</div><div>Def: B is a behavior (e.g. believing, knowing, thinking, or having the ability to write a book about consciousness) which implies consciousness</div><div><br></div><div>Option #1 → Zombies are "¬conscious" and are "B", but "B → consciousness", thus zombies are "¬conscious ∧ conscious"</div><div>Option #2 → Zombies are "behaviorally-equivalent" and are "¬B", but "behaviorally-equivalent → B", thus zombies are "¬B ∧ B"</div><div><br></div><div>Each option leads to a violation of the law of noncontradiction, since we end up with a situation of "P and (not P)".</div><div><br></div><div>I guess the debate comes down to: does there exist any behavior "B" which implies consciousness? E.g. is writing a book about consciousness, such as Dennett's "Consciousness Explained" an example of "B"? Is this something that people believe zombies are capable of?</div><div><br></div><div>Jason</div></div></div>