<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Jun 24, 2016 at 8:49 PM, Dave Sill <span dir="ltr"><<a href="mailto:sparge@gmail.com" target="_blank">sparge@gmail.com</a>></span> wrote:<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_extra"><div class="gmail_quote"><div><br></div><div>My point is that self-driving cars will have to make these decisions, and just because buyers want feature X doesn't mean buyers will get feature X.</div></div></div></div></blockquote><div><br></div><div>### The solutions to the problem would depend on how the liability for wrongful death is handled.</div><div><br></div><div>I am assuming the deaths of car users and third parties would be valued the same.</div><div><br></div><div>If a political/juridical decision is made to hold the car manufacturer liable, the manufacturer would only sell cars that kill the minimum number of people under the chosen performance constraints. The manufacturer probably would not offer cars guaranteed to protect driver because it would increase its liability. Of course, the manufacturer might choose to offer such protective cars at a higher price but this might result in unwanted publicity. It would be easy for others to accuse the manufacturer of trading lives for money, or encouraging such trade, a form of taboo trade-off, and in the emotion-driven world of sales this might tarnish the brand.  </div><div><br></div><div>If the owner of the car was liable, using a protective car would increase the owner's insurance premiums. Here the outcome is hard to predict, given various opposing social pressures acting in relative privacy (I am assuming the owner would not be obliged to disclose the loyalties of his car). Signaling altruism, fear of own death, actual altruistic concern for the lives of others, financial considerations, all these would be weighed individually, with diverse outcomes.</div><div><br></div><div>It is likely that eventually the loyalties of cars and other robots would become regulated by statute, which is the common outcome in an aging legal system. Due to the overall massively lower death risk with robot cars, the net impact of one or the other solution (death-minimizing vs. passenger-protecting) would be minuscule.</div><div><br></div><div>Rafał</div></div>
</div></div>