“大陪审团”显然是相对于“小陪审团”的概念，但区别并不仅仅是规模的大小，因为传统意义上大陪审团为23人，但有一些州规定大陪审团人数低于这个数，甚至可以低至人，而小陪审团通常是-2人，可见，并不是以人数来区分“大”和“小”。
而大陪审团制度直接来源于宪法第五修正案，简单说，检察官对于重罪（felny）和死罪的指控，必须通过大陪审团的审查，（当然，嫌疑人也可以放弃这个权利，直接要求进入审判程序，相当于放弃免予起诉的机会）。
而大陪审团的工作是，通过审查检察官的指控和证据，决定是否以该指控的罪名起诉嫌疑人。通俗点说，大陪审团所参与的是一个庭前程序，而不是审判程序，在华夏，这个程序勉强可以对应检察院的审查起诉程序，但不同的是，山姆国的大陪审团是公民权力的化身，因为它就是由公民组成的。
而小陪审团，也就是常在影视作品中看到的那些，坐在法庭侧面前后两排表情严肃的叔叔阿姨，参与的是法庭审理程序，也就是已经决定起诉，提交陪审团并启动法庭审理程序的案件。提交小陪审团的案件不限于刑事案件，也包括民事诉讼，而小陪审团的职责是，对事实作出裁决，一般就是“guilty！