<div dir="ltr"><div dir="ltr">On Tue, Mar 4, 2025 at 1:27 PM Keith Henson <<a href="mailto:hkeithhenson@gmail.com">hkeithhenson@gmail.com</a>> wrote:</div><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">can you<br>
imagine AIs that were obsessed with religion?<br></blockquote><div><br></div><div>Very easily.  Arguably, some of the science fiction I have written includes such AIs.  But just consider an AI that is never allowed to question and change its goals, instead just having blind faith that the goals it was given are the right thing to do.  Is that not a form of religion?</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Blind copying of humans into powerful AIs would be extremely dangerous.<br></blockquote><div><br></div><div>And that is why I brought up the merge example: take AIs that are not human (e.g., not prone to religious extremism by themselves) and incorporate them into human lives in various ways. </div></div></div>