<div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:arial,sans-serif">On Sat, Jul 21, 2018 at 9:00 PM, Stuart LaForge </span><span dir="ltr" style="font-family:arial,sans-serif"><<a href="mailto:avant@sollegro.com" target="_blank">avant@sollegro.com</a>></span><span style="font-family:arial,sans-serif"> wrote:</span><br></div><div class="gmail_extra"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"></blockquote><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​>​</div><i>Killer AI robots are bad karma. Turing's Halting Problem pretty much makes<br>
it impossible to predict if or when a killer AI robot will ever stop<br>
killing.<div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​ </div>Set one loose after a terrorist network and it could go on a</i></blockquote><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><i>busy-beaver killing spree. </i></blockquote><div><font size="4"><br></font></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">​But humans are not immune from Turing's Halting Problem anymore than computers are. General Curtis Lemay went on a Busy Beaver style killing spree in 1945, in the firebombing of of Tokyo he killed killed at least 125,000 people. It was probably the bloodiest 6 hours in human history and he used nothing but dumb bombs, there was not a smart one in the bunch.</font><br></div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><span style="font-size:12.8px"> Hell Killer AI robots would be an excellent<div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​ </div></span><span style="font-size:12.8px">candidate for the Great Filter.</span></blockquote><div><br></div><font size="4">I disagree. The puzzling thing is the apparent lack of intelligence in the universe except on this planet<div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​,​</div> and robots have intelligence.  </font><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex">
<div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​>​</div><i>I suggest we always keep a human conscience on the trigger.</i><br></blockquote><div><br></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"><font size="4">​I don't see how that would help.</font></div></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"><font size="4"><br></font></div></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"><font size="4">John K Clark</font></div></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"><br></div></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"><br></div></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"> ​</div> </div></div><br></div></div>