<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, May 13, 2023, 10:25 AM William Flynn Wallace via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_default" style="font-family:comic sans ms,sans-serif;font-size:large;color:#000000"><br style="color:rgb(34,34,34);font-family:Arial,Helvetica,sans-serif;font-size:small"><span style="color:rgb(34,34,34);font-family:Arial,Helvetica,sans-serif;font-size:small">So we are back to the old problem -</span><br style="color:rgb(34,34,34);font-family:Arial,Helvetica,sans-serif;font-size:small"><span style="color:rgb(34,34,34);font-family:Arial,Helvetica,sans-serif;font-size:small">Is the bot really 'human' or just pretending to be 'human'?  :)</span></div><div class="gmail_default"><br></div><div class="gmail_default"><font face="comic sans ms, sans-serif">My question:  can it do only what we program it to do, or does it have emergent properties?</font></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">The way these modern AIs work, there's no programming! involved. More accurately, the only programming/instruction we give to build a language model is to provide a large set of data and tell them: "learn from this."</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_default"><font face="comic sans ms, sans-serif"><br></font></div><div class="gmail_default"><div dir="auto">This assumes it is possible to separate intelligence and consciousness.</div><div dir="auto"><br></div><div dir="auto">If nature could have done so, why did it go through all the bother of evolving and retaining consciousness (if we could have operated exactly the same without all the bother of having it)?</div><div dir="auto"><br></div><div dir="auto"><font face="comic sans ms, sans-serif">I think all creatures have intelligence - they have adapted to the world they are in, and that's the ultimate test of intelligence.  If they can't be separated,then all creatures are conscious.  Can we live with that?</font></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">That's up to be us. Can we live with other surprising ideas like the Earth moving around the sun, or the idea of a quantum multiverse?</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_default"><div dir="auto"><font face="comic sans ms, sans-serif">  Are AIs adapting?  </font></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Like most things, they're subject to Darwinian forces. Right now their primary selection criterion is their utility to humans, but there's no guarantee this criterion will remain so into the future.</div><div dir="auto"><br></div><div dir="auto">Jason </div></div>