On Fri, Jul 16, 2010 at 10:35 PM, JD <span dir="ltr">&lt;<a href="mailto:jd1008@gmail.com">jd1008@gmail.com</a>&gt;</span> wrote:<br><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;">
<div class="im">  </div><div><div class="h5">
<br>
</div></div>So, what would you say is/are the class/classes of problems that would<br>
benefit greatly from a high flops gpu, but without the sort of bus<br>
bandwidth you would like to see?<br></blockquote><div><br></div><div>Almost any problem that is embarrassingly parallel or nearly so is potentially a candidate for low-bandwidth computing.  Ray tracing is the primo example.  Almost any linear problem is potentially embarrassingly parallel, and, if you don&#39;t want to go through the work of exposing the embarrassingly parallel nature of the problem, there are the tricks that make the linpack benchmark so popular for selling &quot;supercomputers&quot; that have absurdly small bisection bandwidths.</div>
<div><br></div><div>My question, though, is, if that&#39;s the kind of problem you have, why not do it on a distributed platform and teach students how to use distributed resources?  If you&#39;re Pixar, I understand why you&#39;d want a well-organized farm of GPU&#39;s, but if you just want to replicate what LLNL (Lawrence Livermore) was doing, say, ten years ago, are you doing your students any favor by giving them a GPGPU instead of the challenge of doing real distributed computing?  Conceivably, watts per flop (power consumption) makes GPGPU&#39;s the hands down winner over distributed computing for problems that are embarrassingly parallel or nearly so.  Inevitably, though, people will want clusters of GPUGPU&#39;s, so you&#39;ll wind up doing distributed computing, anyway.</div>
<div><br></div><div>If you rewrite your applications for the one-off architectures typical of GPU&#39;s, so that you have to do it all over again when the next generation comes out, have you really done yourself any favors?</div>
<div><br></div><div>I don&#39;t claim that there are simple or obvious answers, but it&#39;s just too easy for people to be blown away by huge flops numbers.  What I&#39;m afraid of has already started to happen as far as I&#39;m concerned, which is that all problems will be jammed into the low-bandwidth mold, whether it&#39;s appropriate or not.</div>
<div><br></div><div>Robert.</div><div><br></div></div>