<div dir="ltr"><div dir="ltr"><div><font color="#000000">On Tue, Aug 17, 2021 at 1:41 PM Mike Dougherty via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></font></div></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><font color="#000000">On Tue, Aug 17, 2021, 12:19 PM John Grigg via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></font></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><p style="box-sizing:border-box;border:0px;outline:none;margin:0px 0px 1.25rem;padding:0px;font-variant-numeric:inherit;font-variant-east-asian:inherit;font-stretch:inherit;line-height:1.75;font-family:Graphik,sans-serif;vertical-align:baseline"><font color="#000000">“A human AGI without a body is bound to be, for all practical purposes, a disembodied ‘zombie’ of sorts, lacking genuine understanding of the world (with its myriad forms, natural phenomena, beauty, etc.) including its human inhabitants, their motivations, habits, customs, behavior, etc. the agent would need to fake all these,” Raghavachary </font></p></div></blockquote></div></div></div></blockquote><div>I don't think there's anything magical about a body that enables genuine understanding of the world.</div><div> <br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font color="#000000">So Hawking's body became a prison, limiting him from "normal" human stuff.</font></div><div dir="auto"><font color="#000000"><br></font></div><div dir="auto"><font color="#000000">Would we have had the benefit of his mind without that body or without that specific circumstance?</font></div></div></blockquote><div><br></div><div>We'll never know. </div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font color="#000000">I think it's important to ensure that our "new definition" of intelligence does not exclude actual humans.  Ex: we could inadvertently revoke human status from comatose patients. </font></div></div></blockquote><div><br></div><div>Why do we need to redefine intelligence? Unconscious people, whether comatose or sleeping or passed out drunk, aren't actively intelligent until they regain consciousness. Doesn't mean they're not people.</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font color="#000000">It seems to me like much of the "AGI isn't real" blah blah is in defense of human superiority in the face of our losing that apex-thinker status.  (Or that somehow humans have an all-important soul that machines will always lack)</font></div></div></blockquote><div><br></div><div>No doubt there are people who will consider actual humans superior to AIs/robots that are demonstrably superior in every way. I'll happily admit that AlphaGo is a better Go player than I am. But I don't think that means it's smarter than I am.</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font color="#000000">We need to admit that we're still eating and abusing other animals that show signs of intelligence...</font></div></div></blockquote><div><br></div><div>There's no excuse for animal abuse but eating animals is normal for humans and arguably one of the reasons we're where we are today. Veganism/vegetarianism is a recent development and we don't know how to satisfy all of our nutritional requirements from purely plant-based sources. Nor the environmental costs of trying to do that.</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font color="#000000"> and we're starting to imagine AGI being the apex predator in the digital world.   We're becoming prey... for a hunter we're still building. </font></div></div></blockquote><div><br></div><div>If we do that, we deserve what we get.</div><div><br></div><div>-Dave </div></div></div>