<div dir="ltr"><div dir="ltr">On Mon, Jun 17, 2019 at 9:32 AM <<a href="mailto:spike@rainier66.com">spike@rainier66.com</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div lang="EN-US"><div class="gmail-m_6204039576546672037WordSection1"><p class="MsoNormal"><u></u>Looking at it from the POV of a controls guy, pushing or hitting the biped bot with a hockey stick isn’t so much an assault as it is a random input, which requires a compensation loop.</p></div></div></blockquote><div><br></div><div>And here I was just recently writing science fiction about that POV, for an automated spaceship.</div><div><br></div><div>From <a href="http://wiki.travellerrpg.com/Average_Cargo_Ship_class_Cargo_Ship">http://wiki.travellerrpg.com/Average_Cargo_Ship_class_Cargo_Ship</a> :</div><div><br>> Out of a stated desire to have there be something truly innocent in the universe, the software's designers intentionally made it unable to understand that one ship can deliberately attack another, so far as the sub-sophont-grade AI can be said to understand anything.  Crews who have escorted an Average Cargo Ship through pirate encounters sometimes joke about the resulting barrage of navigation hazard alerts (every individual missile, laser shot, and once the pirate ships have been destroyed, shard of debris), and the Average Cargo Ship's insistent labeling of hostiles as "incompetent crew".  The AI does at least forgive its escorts for the "hazards" they create, with a hardcoded rationalization that they were just reacting to the much bigger hazard of another crew so incompetent that they were about to destroy other ships by accident.<br></div></div></div>