<div dir="ltr"><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_extra"><br><div class="gmail_quote">On Wed, Sep 14, 2016 at 6:48 PM, John Denker <span dir="ltr"><<a href="mailto:jsd@av8n.com" target="_blank">jsd@av8n.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">On 09/14/2016 10:00 AM, Henry Baker wrote:<br>
<br>
> The multiprocessor revolution is just beginning to take off; I can<br>
> recall my first computer (IBM 1401) with 4,000 (not 4096!)<br>
> "characters" of RAM; we're nearly to the point where a consumer can<br>
> purchase a computer with 4,000 *processors*.<br>
<br>
You can get GPU cards with more than 2000 cores per card.  For<br>
bitcoin mining, or for physics simulations -- or for "consumer"<br>
applications such as fancy graphics -- you might plug in two or<br>
more such cards, at which point you're already well over 4000<br>
processors in a single "computer".<br>
  <a href="http://www.newegg.com/Product/Product.aspx?Item=09Z-01S1-00044" rel="noreferrer" target="_blank">http://www.newegg.com/Product/<wbr>Product.aspx?Item=09Z-01S1-<wbr>00044</a><br>
<br>
It's also good for keeping you warm in the winter.</blockquote><div><br></div><div><div class="gmail_default" style="font-size:small;display:inline">​My work machine for over a year now has been a 12 Thread Intel CPU with twin Nvidia GTX980s with ​2048 cores each.</div></div><div><div class="gmail_default" style="font-size:small;display:inline"><br></div></div><div><div class="gmail_default" style="font-size:small;display:inline">I am not sure quite where it lies on the SIMD/MIMD chart, I know there is more than one instruction pointer involved but not how many. The latest versions of DirectX have been gradually making this GPU power available to programs but I don't think they are there yet.</div></div><div><div class="gmail_default" style="font-size:small;display:inline"><br></div></div><div><div class="gmail_default" style="font-size:small;display:inline">It might well be time for the industry to start re-learning the things Bill Dally and David May were talking about in the 1980s when I did my DPhil. on applying formal methods to a large array of transputers.</div></div><div><div class="gmail_default" style="font-size:small;display:inline"><br></div></div><div><div class="gmail_default" style="font-size:small;display:inline">What most folk miss about Moore's law is that most of the improvement comes from more transistors. The transistors themselves have not been getting much faster for reasons of heat dissipation. And we ran out of useful things to do to use extra gates to optimize a single core a decade ago.</div></div><div><br></div><div><br></div></div></div></div>