This is why all military systems need more than one failsafe before firing and should never be fully autonomous. The last failsafe should always being a human (even that wasn't good enough in this case). I'd like to think it's also a pretty good example of why an AGI will be bad. Not because it will use weapon like this, but just because it could cause major damage with the systems it may have access to. Damage caused not through desire or design, Just because it can. Or more correctly, because we didn't account for it doing something we didn't think about.<br>
<br>
Undoubtably this tradgedy is down to a design flaw somewhere, HW or SW. I just hope the lesson is learned.<br>
<br>
Alex<br>
<br>
-----Original Message-----<br>
From: Jeff Davis <jrd1415@gmail.com><br>
To: ExI chat list <extropy-chat@lists.extropy.org><br>
Sent: Wed, 2 Apr 2008 19:55<br>
Subject: [ExI] friendly fire, unfriendly AI<br>
<br>


<div id=AOLMsgPart_0_8962ba30-9254-4040-86ea-bad1c9a50db7 style="FONT-SIZE: 12px; MARGIN: 0px; COLOR: #000; FONT-FAMILY: Tahoma, Verdana, Arial, Sans-Serif; BACKGROUND-COLOR: #fff"><PRE style="FONT-SIZE: 9pt"><TT>Sorry guys, but I found this just too compelling to pass up.

Robot Cannon Kills 9, Wounds 14
<A href="http://blog.wired.com/defense/2007/10/robot-cannon-ki.html" target=_blank>http://blog.wired.com/defense/2007/10/robot-cannon-ki.html</A>

Best, Jeff Davis

"White people are clever, but they are not wise."
          Ishi, the last of the Yahi nation
_______________________________________________
extropy-chat mailing list
<A href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</A>
<A href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" target=_blank>http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</A>
</TT></PRE></div>
<!-- end of AOLMsgPart_0_8962ba30-9254-4040-86ea-bad1c9a50db7 --><div class="AOLPromoFooter">
<hr style="margin-top:10px;" />
AOL's new homepage has launched. Take a <a href="http://info.aol.co.uk/homepage/" target=_blank>tour</a> now.
</div>