<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Thu, Dec 19, 2019 at 6:00 PM William Flynn Wallace via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</span><br></div></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;font-size:small;color:rgb(0,0,0)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>John, why do you require certainty? </div></div></blockquote><div><br></div><div class="gmail_default" style=""><font size="4" style=""><font face="arial, helvetica, sans-serif"></font></font><font size="4">I don't! My fundamental axiom is intelligent behavior implies consciousness, like all axioms I can't prove it but nevertheless I need to believe it because I could not function if I really thought I was the only conscious entity in the universe.</font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;font-size:small;color:rgb(0,0,0)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Why couldn't you just imagine a study where a stimulus is presented to someone and they give you a verbal description of it which aligns with yours.  This means that both of you are conscious</div></div></blockquote><div><br></div><div class="gmail_default" style=""><font face="arial, helvetica, sans-serif"></font><font size="4">I think that is almost certainly true and that's good enough, but if you are using that method to detect consciousness that means you are doing it by observing behavior, in particular the intelligent type. So if you want to understand consciousness better your best bet is to figure out a way to make a AI smarter, you'll never reach total certainty but you'll get as close to understanding how consciousness works as it's possible to get.</font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;font-size:small;color:rgb(0,0,0)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Well, I guess that means the AI is conscious. </div></div></blockquote><div><br></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">Yes, probably.</font></div></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;font-size:small;color:rgb(0,0,0)"> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>A lot of people won't be happy with that.</div></div></blockquote><div><br></div><div class="gmail_default" style=""><font face="arial, helvetica, sans-serif"></font><font size="4">A lot of people are already unhappy with AI because they just don't like the idea that something that is not wet and squishy could be conscious, not even if it behaves super-intelligently. But I've got to say as a practical matter it's not important if humans believe AIs are conscious or not, from our point of view it's far more important that AIs believe humans are conscious, because if a ultra-smart AI doesn't people are going to be very VERY <b>VERY</b> unhappy.</font></div><div class="gmail_default" style=""><font size="4"><br></font></div><div class="gmail_default" style=""><font size="4"> John K Clark</font></div></div></div>