<div dir="ltr">YES. This combination of a moderate AI and some terrorist mindset of a human is a neglected aspect of "AI friendliness" and a bit closer to an actual realization.<div><br></div><div>Still, I don't think everybody would die. 99% of all people on Earth, at the most.</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Apr 6, 2022 at 10:22 AM Rafal Smigrodzki via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div>Years ago on this list we discussed the possibility that the Unfriendly AI might solve the protein folding problem and hire a contract lab to unknowingly generate the nanotech doomsday weapon. Those discussions were a bit nebulous, since we didn't know how difficult it would be to solve the protein folding problem and how it would fit on the scale of AI difficulty. Since last year we have a bit of clarity- the protein folding problem was solved by a AIphaFold, and perhaps unsurprisingly this AI is orders of magnitude too dumb to be Unfriendly.</div><div><br></div><div>Despite its lack of agency, AlphaFold is approaching the level where it could be acutely dangerous to all of us. It will probably take only a few years before AlphaFold becomes powerful enough to create predictive models of large molecular assemblies, up to and including human cells.</div><div><br></div>An easy to use molecular-scale predictive model of human cells would be an immensely powerful tool for biomedical research and engineering. The kind of work that today takes a small army of postdocs toiling for years in a well-equipped lab and spending millions of dollars could be doable by a grad student in a weekend.<div><br></div><div>If that grad student had a grudge against the world and a death wish, here is how he could proceed to kill everybody:</div><div><br></div><div>1. Show up at work Saturday morning, when nobody is going to bug you about the stuff you're supposed to do. Use the AI to generate the sequences of a few thousand completely new deadly viruses. You could get creative and make a wide range of new viruses, mixing and matching diverse paths of infection, varying incubation periods, completely re-engineering every single protein including the replicases (so existing antivirals would be useless), making completely new capsid proteins to eliminate cross-reactivity with existing viruses, use various reservoirs in the body to assure long-term infection and prolonged infectivity (like HIV and herpes) but with a timed switch to an acute attack phase (to allow spread through asymptomatic individuals over long periods of time), use non-human vectors of infection (insects, like the dengue virus), non-human reservoirs including pets, farm animals and wildlife)... the possibilities are myriad. With powerful-enough software you might have it done by Saturday evening.</div><div><br></div><div>2. Synthesize the sequences in vitro. A few hours in a high-throughput industrial scale lab of the future might be enough and also fully automated, yielding a thousand samples of DNA in a few 384-well microplates. Pick up Sunday morning. No need to ask anybody for help.</div><div><br></div><div>3. Add the DNA to plates with a cell-free transcription and translation extract - an hour or less in a high-throughput pipetting robot. The cell-free extract would synthesize the RNA to control translation and to make the proteins needed to package the DNA. Most of the samples should generate infectious virions, although the titers would be low. Should be done by early Sunday afternoon.</div><div><br></div><div>4. Invert the plates and slam down in a shallow tray with PBS to pool the samples. 5 minutes.</div><div><br></div><div>5. Inhale, drink, inject the pooled viruses on Sunday evening.</div><div><br></div><div>6. Go home, sleep, wake up Monday. By then some of the viruses might already be present in your secretions.</div><div><br></div><div>7. Start traveling in the metro, all day long, changing lines.</div><div><br></div><div>8. Take a flight somewhere, keep riding the metro, preferably in a crowded large city on another continent. Sneeze and cough often, even if you don't need to, or talk a lot on the phone, to get more virus spread.</div><div><br></div><div>9. Keep repeating steps 7 and 8 until you drop dead, in the secure knowledge you killed everybody.</div><div><br></div><div>If you were willing to spend more time making the viruses, you could do the wet part of the job in a home lab with handheld pipettes, and literally no other equipment, a long as you had access to the cell modeling software and the ability to order DNA synthesized and to order the cell-free extracts from a catalog.</div><div><br></div><div>These steps are so obvious I don't think I am doing anything dangerous by outlining them. Of course, we don't have the predictive model of human cells yet, so the scenario is still fiction... but eventually it will be possible, maybe years before the AI singularity.</div><div><br></div><div>Scary stuff.</div><div><br></div><div>Rafal</div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail_signature"><div dir="ltr"><a href="https://protokol2020.wordpress.com/" target="_blank">https://protokol2020.wordpress.com/</a><br></div></div>