<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif;background-color:transparent">On Thu, Oct 22, 2026 at 12:30 PM BillK via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</span></div></div><div class="gmail_quote gmail_quote_container"><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" style="" face="georgia, serif"><i>
<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>As AI develops towards AGI, the goals and sub-goals will become more<br>
and more unpredictable. We may provide AI with goals and attempt to<br>
place restrictions on it. But it will become an alien intelligence<br>
that makes its own goals and complex chains of sub-goals without<br>
bothering to inform humans what it intends.</i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Yes, and I don't think there's any way to avoid that.<span class="gmail_default" style=""> </span></b></font> </div><div><br></div><div><div class="gmail_default" style=""><font size="4" style="" face="tahoma, sans-serif"><b style=""> John K Clark</b></font></div><br></div><div><br></div><div> </div></div></div>