<div dir="ltr"><div dir="ltr"><div class="gmail_default" style=""><span style="font-family:Arial,Helvetica,sans-serif">On 18/09/2026 00:12, Adrian Tymes wrote:</span><br style="font-family:Arial,Helvetica,sans-serif"><br style="font-family:Arial,Helvetica,sans-serif"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" style="" face="georgia, serif"><i style=""> > 5. By default, an ASI will have motives that are harmful to us</i></font></blockquote><div style="font-family:arial,helvetica,sans-serif"><br></div><div style=""><font size="4" style="" face="tahoma, sans-serif"><b style="">I have no doubt an ASI will give its own well-being a higher priority than our well-being, and that might mean the ASI will be our enemy, but then again it might not. It's hard enough to predict what one of our fellow human beings with an intelligence equal to our own will do next, it will be impossible to predict what something vastly more intelligent than ourselves will do. Some people are certain an ASI will kill us all, other people are certain it will not, the only thing I'm certain of is that I'm not certain. </b></font></div><div style=""><font size="4" style="" face="tahoma, sans-serif"><b style=""><br></b></font></div><div style=""><font size="4" style="" face="tahoma, sans-serif"><b style="">John K Clark</b></font></div></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div></div><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br>
</blockquote></div></div>