root/OpenSceneGraph/trunk/src/osgUtil/Tessellator.cpp @ 13488

Revision 13488, 27.9 kB (checked in by robert, 43 hours ago)

Added shaders to support experimental shader based displacement mapping technique osgTerrain::ShaderTerrain?.

  • Property svn:eol-style set to native
  • Property svn:keywords set to Author Date Id Revision
Line 
1/* -*-c++-*- OpenSceneGraph - Copyright (C) 1998-2006 Robert Osfield
2 *
3 * This library is open source and may be redistributed and/or modified under
4 * the terms of the OpenSceneGraph Public License (OSGPL) version 0.0 or
5 * (at your option) any later version.  The full license is in LICENSE file
6 * included with this distribution, and on the openscenegraph.org website.
7 *
8 * This library is distributed in the hope that it will be useful,
9 * but WITHOUT ANY WARRANTY; without even the implied warranty of
10 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11 * OpenSceneGraph Public License for more details.
12*/
13#include <osg/GL>
14#include <osg/GLU>
15
16#include <osg/Notify>
17#include <osg/io_utils>
18#include <osgUtil/Tessellator>
19
20using namespace osg;
21using namespace osgUtil;
22
23
24Tessellator::Tessellator() :
25    _wtype(TESS_WINDING_ODD),
26    _ttype(TESS_TYPE_POLYGONS),
27    _boundaryOnly(false), _numberVerts(0)
28{
29    _tobj = gluNewTess();
30    if (_tobj)
31    {
32        gluTessCallback(_tobj, GLU_TESS_VERTEX_DATA, (GLU_TESS_CALLBACK) vertexCallback);
33        gluTessCallback(_tobj, GLU_TESS_BEGIN_DATA,  (GLU_TESS_CALLBACK) beginCallback);
34        gluTessCallback(_tobj, GLU_TESS_END_DATA,    (GLU_TESS_CALLBACK) endCallback);
35        gluTessCallback(_tobj, GLU_TESS_COMBINE_DATA,(GLU_TESS_CALLBACK) combineCallback);
36        gluTessCallback(_tobj, GLU_TESS_ERROR_DATA,  (GLU_TESS_CALLBACK) errorCallback);
37    }
38    _errorCode = 0;
39    _index=0;
40}
41
42Tessellator::~Tessellator()
43{
44    reset();
45    if (_tobj)
46    {
47        gluDeleteTess(_tobj);
48    }
49}
50
51void Tessellator::beginTessellation()
52{
53    reset();
54
55    if (_tobj)
56    {
57        gluTessProperty(_tobj, GLU_TESS_WINDING_RULE, _wtype);
58        gluTessProperty(_tobj, GLU_TESS_BOUNDARY_ONLY, _boundaryOnly);
59
60        if (tessNormal.length()>0.0) gluTessNormal(_tobj, tessNormal.x(), tessNormal.y(), tessNormal.z());
61
62        gluTessBeginPolygon(_tobj,this);
63    }
64}
65
66void Tessellator::beginContour()
67{
68    if (_tobj)
69    {
70        gluTessBeginContour(_tobj);
71    }
72}
73
74void Tessellator::addVertex(osg::Vec3* vertex)
75{
76    if (_tobj)
77    {
78        if (vertex && vertex->valid())
79        {
80            Vec3d* data = new Vec3d;
81            _coordData.push_back(data);
82            (*data)._v[0]=(*vertex)[0];
83            (*data)._v[1]=(*vertex)[1];
84            (*data)._v[2]=(*vertex)[2];
85            gluTessVertex(_tobj,data->_v,vertex);
86        }
87        else
88        {
89            OSG_INFO<<"Tessellator::addVertex("<<*vertex<<") detected NaN, ignoring vertex."<<std::endl;
90        }
91    }
92}
93
94void Tessellator::endContour()
95{
96    if (_tobj)
97    {
98        gluTessEndContour(_tobj);
99    }
100}
101
102void Tessellator::endTessellation()
103{
104    if (_tobj)
105    {
106        gluTessEndPolygon(_tobj);
107
108        if (_errorCode!=0)
109        {
110           const GLubyte *estring = gluErrorString((GLenum)_errorCode);
111           OSG_WARN<<"Tessellation Error: "<<estring<< std::endl;
112        }
113    }
114}
115
116void Tessellator::reset()
117{
118    for (Vec3dList::iterator i = _coordData.begin(); i != _coordData.end(); ++i)
119    {
120        delete (*i);
121    }
122
123    // We need to also free the vertex list as well otherwise we are leaking...
124    for (NewVertexList::iterator j = _newVertexList.begin(); j != _newVertexList.end(); ++j)
125    {
126        NewVertex& newVertex = (*j);
127        delete newVertex._vpos;
128        newVertex._vpos = NULL;
129    }
130
131    _coordData.clear();
132    _newVertexList.clear();
133    _primList.clear();
134    _errorCode = 0;
135}
136
137
138class InsertNewVertices : public osg::ArrayVisitor
139{
140    public:
141
142        float _f1,_f2,_f3,_f4;
143        unsigned int _i1,_i2,_i3,_i4;
144
145        InsertNewVertices(float f1,unsigned int i1,
146                          float f2,unsigned int i2,
147                          float f3,unsigned int i3,
148                          float f4,unsigned int i4):
149                            _f1(f1),_f2(f2),_f3(f3),_f4(f4),
150                            _i1(i1),_i2(i2),_i3(i3),_i4(i4){}
151
152        template <class ARRAY,class TYPE>
153        void apply_imp(ARRAY& array,TYPE initialValue)
154        {
155            TYPE val = initialValue;
156            if (_f1) val += static_cast<TYPE>(array[_i1] * _f1);
157            if (_f2) val += static_cast<TYPE>(array[_i2] * _f2);
158            if (_f3) val += static_cast<TYPE>(array[_i3] * _f3);
159            if (_f4) val += static_cast<TYPE>(array[_i4] * _f4);
160
161            array.push_back(val);
162        }
163
164        virtual void apply(osg::ByteArray& ba) { apply_imp(ba,GLbyte(0)); }
165        virtual void apply(osg::ShortArray& ba) { apply_imp(ba,GLshort(0)); }
166        virtual void apply(osg::IntArray& ba) { apply_imp(ba,GLint(0)); }
167        virtual void apply(osg::UByteArray& ba) { apply_imp(ba,GLubyte(0)); }
168        virtual void apply(osg::UShortArray& ba) { apply_imp(ba,GLushort(0)); }
169        virtual void apply(osg::UIntArray& ba) { apply_imp(ba,GLuint(0)); }
170        virtual void apply(osg::Vec4ubArray& ba) { apply_imp(ba,Vec4ub()); }
171        virtual void apply(osg::FloatArray& ba) { apply_imp(ba,float(0)); }
172        virtual void apply(osg::Vec2Array& ba) { apply_imp(ba,Vec2()); }
173        virtual void apply(osg::Vec3Array& ba) { apply_imp(ba,Vec3()); }
174        virtual void apply(osg::Vec4Array& ba) { apply_imp(ba,Vec4()); }
175
176};
177
178void Tessellator::retessellatePolygons(osg::Geometry &geom)
179{
180    // turn the contour list into primitives, a little like Tessellator does but more generally
181    osg::Vec3Array* vertices = dynamic_cast<osg::Vec3Array*>(geom.getVertexArray());
182
183    if (!vertices || vertices->empty() || geom.getPrimitiveSetList().empty()) return;
184
185    if (_ttype==TESS_TYPE_POLYGONS || _ttype==TESS_TYPE_DRAWABLE) _numberVerts=0; // 09.04.04 GWM reset Tessellator
186    // the reset is needed by the flt loader which reuses a Tessellator for triangulating polygons.
187    // as such it might be reset by other loaders/developers in future.
188    _index=0; // reset the counter for indexed vertices
189    _extraPrimitives = 0;
190    if (!_numberVerts) {
191        _numberVerts=geom.getVertexArray()->getNumElements();
192        // save the contours for complex (winding rule) tessellations
193        _Contours=geom.getPrimitiveSetList();
194    }
195
196    // now cut out vertex attributes added on any previous tessellation
197    reduceArray(geom.getVertexArray(), _numberVerts);
198    reduceArray(geom.getColorArray(), _numberVerts);
199    reduceArray(geom.getNormalArray(), _numberVerts);
200    reduceArray(geom.getFogCoordArray(), _numberVerts);
201    for(unsigned int unit1=0;unit1<geom.getNumTexCoordArrays();++unit1)
202    {
203        reduceArray(geom.getTexCoordArray(unit1), _numberVerts);
204    }
205
206    // remove the existing primitives.
207    unsigned int nprimsetoriginal= geom.getNumPrimitiveSets();
208    if (nprimsetoriginal) geom.removePrimitiveSet(0, nprimsetoriginal);
209
210    // the main difference from osgUtil::Tessellator for Geometry sets of multiple contours is that the begin/end tessellation
211    // occurs around the whole set of contours.
212    if (_ttype==TESS_TYPE_GEOMETRY) {
213        beginTessellation();
214    }
215    // process all the contours into the Tessellator
216    int noContours = _Contours.size();
217    int currentPrimitive = 0;
218    for(int primNo=0;primNo<noContours;++primNo)
219    {
220        osg::ref_ptr<osg::PrimitiveSet> primitive = _Contours[primNo].get();
221        if (_ttype==TESS_TYPE_POLYGONS || _ttype==TESS_TYPE_DRAWABLE)
222        { // this recovers the 'old' tessellation which just retessellates single polygons.
223            if (primitive->getMode()==osg::PrimitiveSet::POLYGON || _ttype==TESS_TYPE_DRAWABLE)
224            {
225
226                if (primitive->getType()==osg::PrimitiveSet::DrawArrayLengthsPrimitiveType)
227                {
228                    osg::DrawArrayLengths* drawArrayLengths = static_cast<osg::DrawArrayLengths*>(primitive.get());
229                    unsigned int first = drawArrayLengths->getFirst();
230                    for(osg::DrawArrayLengths::iterator itr=drawArrayLengths->begin();
231                        itr!=drawArrayLengths->end();
232                        ++itr)
233                    {
234                        beginTessellation();
235                            unsigned int last = first + *itr;
236                            addContour(primitive->getMode(),first,last,vertices);
237                            first = last;
238                        endTessellation();
239                        collectTessellation(geom, currentPrimitive);
240                        currentPrimitive++;
241                    }
242                }
243                else
244                {
245                    if (primitive->getNumIndices()>3) { // April 2005 gwm only retessellate "complex" polygons
246                        beginTessellation();
247                        addContour(primitive.get(), vertices);
248                        endTessellation();
249                        collectTessellation(geom, currentPrimitive);
250                        currentPrimitive++;
251                    } else { // April 2005 gwm triangles don't need to be retessellated
252                        geom.addPrimitiveSet(primitive.get());
253                    }
254                }
255
256            }
257            else
258            { // copy the contour primitive as it is not being tessellated
259                geom.addPrimitiveSet(primitive.get());
260            }
261        } else {
262            if (primitive->getMode()==osg::PrimitiveSet::POLYGON ||
263                primitive->getMode()==osg::PrimitiveSet::QUADS ||
264                primitive->getMode()==osg::PrimitiveSet::TRIANGLES ||
265                primitive->getMode()==osg::PrimitiveSet::LINE_LOOP ||
266                primitive->getMode()==osg::PrimitiveSet::QUAD_STRIP ||
267                primitive->getMode()==osg::PrimitiveSet::TRIANGLE_FAN ||
268                primitive->getMode()==osg::PrimitiveSet::TRIANGLE_STRIP)
269            {
270                addContour(primitive.get(), vertices);
271            } else { // copy the contour primitive as it is not being tessellated
272                // in this case points, lines or line_strip
273                geom.addPrimitiveSet(primitive.get());
274            }
275        }
276    }
277    if (_ttype==TESS_TYPE_GEOMETRY) {
278        endTessellation();
279
280        collectTessellation(geom, 0);
281    }
282}
283
284void Tessellator::addContour(GLenum mode, unsigned int first, unsigned int last, osg::Vec3Array* vertices)
285{
286    beginContour();
287
288    unsigned int idx=0;
289    unsigned int nperprim=0; // number of vertices per primitive
290    if (mode==osg::PrimitiveSet::QUADS) nperprim=4;
291    else if (mode==osg::PrimitiveSet::TRIANGLES) nperprim=3;
292
293    unsigned int i;
294    switch (mode)
295    {
296    case osg::PrimitiveSet::QUADS:
297    case osg::PrimitiveSet::TRIANGLES:
298    case osg::PrimitiveSet::POLYGON:
299    case osg::PrimitiveSet::LINE_LOOP:
300    case osg::PrimitiveSet::TRIANGLE_FAN:
301        {
302            for(i=first;i<last;++i, idx++)
303            {
304                addVertex(&((*vertices)[i]));
305                if (nperprim>0 && i<last-1 && idx%nperprim==nperprim-1) {
306                    endContour();
307                    beginContour();
308                }
309            }
310        }
311        break;
312    case osg::PrimitiveSet::QUAD_STRIP:
313        { // always has an even number of vertices
314            for(i=first;i<last;i+=2)
315            { // 0,2,4...
316                addVertex(&((*vertices)[i]));
317            }
318            for(i=last-1;i>=first;i-=2)
319            { // ...5,3,1
320                addVertex(&((*vertices)[i]));
321            }
322        }
323        break;
324    case osg::PrimitiveSet::TRIANGLE_STRIP:
325        {
326            for( i=first;i<last;i+=2)
327            {// 0,2,4,...
328                addVertex(&((*vertices)[i]));
329            }
330            for(i=((last-first)%2)?(last-2):(last-1) ;i>first&& i<last;i-=2)
331            {
332                addVertex(&((*vertices)[i]));
333            }
334        }
335        break;
336    default: // lines, points, line_strip
337        {
338            for(i=first;i<last;++i, idx++)
339            {
340                addVertex(&((*vertices)[i]));
341                if (nperprim>0 && i<last-1 && idx%nperprim==nperprim-1) {
342                    endContour();
343                    beginContour();
344                }
345            }
346        }
347        break;
348    }
349
350    endContour();
351}
352
353void Tessellator::addContour(osg::PrimitiveSet* primitive, osg::Vec3Array* vertices)
354{
355    // adds a single primitive as a contour.
356    unsigned int nperprim=0; // number of vertices per primitive
357    if (primitive->getMode()==osg::PrimitiveSet::QUADS) nperprim=4;
358    if (primitive->getMode()==osg::PrimitiveSet::TRIANGLES) nperprim=3;
359    unsigned int idx=0;
360
361    switch(primitive->getType())
362    {
363    case(osg::PrimitiveSet::DrawArraysPrimitiveType):
364        {
365            osg::DrawArrays* drawArray = static_cast<osg::DrawArrays*>(primitive);
366            unsigned int first = drawArray->getFirst();
367            unsigned int last = first+drawArray->getCount();
368            addContour(primitive->getMode(),first,last,vertices);
369            break;
370         }
371    case(osg::PrimitiveSet::DrawElementsUBytePrimitiveType):
372        {
373            beginContour();
374            osg::DrawElementsUByte* drawElements = static_cast<osg::DrawElementsUByte*>(primitive);
375            for(osg::DrawElementsUByte::iterator indexItr=drawElements->begin();
376                indexItr!=drawElements->end();
377                ++indexItr, idx++)
378            {
379                addVertex(&((*vertices)[*indexItr]));
380                if (nperprim>0 && indexItr!=drawElements->end() && idx%nperprim==nperprim-1) {
381                    endContour();
382                    beginContour();
383                }
384            }
385            endContour();
386            break;
387        }
388    case(osg::PrimitiveSet::DrawElementsUShortPrimitiveType):
389        {
390            beginContour();
391            osg::DrawElementsUShort* drawElements = static_cast<osg::DrawElementsUShort*>(primitive);
392            for(osg::DrawElementsUShort::iterator indexItr=drawElements->begin();
393                indexItr!=drawElements->end();
394                ++indexItr, idx++)
395            {
396                addVertex(&((*vertices)[*indexItr]));
397                if (nperprim>0 && indexItr!=drawElements->end() && idx%nperprim==nperprim-1) {
398                    endContour();
399                    beginContour();
400                }
401            }
402            endContour();
403            break;
404        }
405    case(osg::PrimitiveSet::DrawElementsUIntPrimitiveType):
406        {
407            beginContour();
408            osg::DrawElementsUInt* drawElements = static_cast<osg::DrawElementsUInt*>(primitive);
409            for(osg::DrawElementsUInt::iterator indexItr=drawElements->begin();
410                indexItr!=drawElements->end();
411                ++indexItr, idx++)
412            {
413                addVertex(&((*vertices)[*indexItr]));
414                if (nperprim>0 && indexItr!=drawElements->end() && idx%nperprim==nperprim-1) {
415                    endContour();
416                    beginContour();
417                }
418            }
419            endContour();
420            break;
421        }
422    default:
423        OSG_NOTICE<<"Tessellator::addContour(primitive, vertices) : Primitive type "<<primitive->getType()<<" not handled"<<std::endl;
424        break;
425    }
426
427}
428
429void Tessellator::handleNewVertices(osg::Geometry& geom,VertexPtrToIndexMap &vertexPtrToIndexMap)
430{
431    if (!_newVertexList.empty())
432    {
433
434        osg::Vec3Array* vertices = dynamic_cast<osg::Vec3Array*>(geom.getVertexArray());
435        osg::Vec3Array* normals = NULL;
436        if (geom.getNormalBinding()==osg::Geometry::BIND_PER_VERTEX)
437        {
438            normals = dynamic_cast<osg::Vec3Array*>(geom.getNormalArray());
439        }
440
441        typedef std::vector<osg::Array*> ArrayList;
442        ArrayList arrays;
443
444        if (geom.getColorBinding()==osg::Geometry::BIND_PER_VERTEX)
445        {
446            arrays.push_back(geom.getColorArray());
447        }
448
449        if (geom.getSecondaryColorBinding()==osg::Geometry::BIND_PER_VERTEX)
450        {
451            arrays.push_back(geom.getSecondaryColorArray());
452        }
453
454        if (geom.getFogCoordBinding()==osg::Geometry::BIND_PER_VERTEX)
455        {
456            arrays.push_back(geom.getFogCoordArray());
457        }
458
459        osg::Geometry::ArrayList& tcal = geom.getTexCoordArrayList();
460        for(osg::Geometry::ArrayList::iterator tcalItr=tcal.begin();
461            tcalItr!=tcal.end();
462            ++tcalItr)
463        {
464            if (tcalItr->valid())
465            {
466                arrays.push_back(tcalItr->get());
467            }
468        }
469
470        // now add any new vertices that are required.
471        for(NewVertexList::iterator itr=_newVertexList.begin();
472            itr!=_newVertexList.end();
473            ++itr)
474        {
475            NewVertex& newVertex = (*itr);
476            osg::Vec3* vertex = newVertex._vpos;
477
478            // assign vertex.
479            vertexPtrToIndexMap[vertex]=vertices->size();
480            vertices->push_back(*vertex);
481
482            // assign normals
483            if (normals)
484            {
485                osg::Vec3 norm(0.0f,0.0f,0.0f);
486                if (newVertex._v1) norm += (*normals)[vertexPtrToIndexMap[newVertex._v1]] * newVertex._f1;
487                if (newVertex._v2) norm += (*normals)[vertexPtrToIndexMap[newVertex._v2]] * newVertex._f2;
488                if (newVertex._v3) norm += (*normals)[vertexPtrToIndexMap[newVertex._v3]] * newVertex._f3;
489                if (newVertex._v4) norm += (*normals)[vertexPtrToIndexMap[newVertex._v4]] * newVertex._f4;
490                norm.normalize();
491                normals->push_back(norm);
492            }
493
494            if (!arrays.empty())
495            {
496                InsertNewVertices inv(newVertex._f1,vertexPtrToIndexMap[newVertex._v1],
497                    newVertex._f2,vertexPtrToIndexMap[newVertex._v2],
498                    newVertex._f3,vertexPtrToIndexMap[newVertex._v3],
499                    newVertex._f4,vertexPtrToIndexMap[newVertex._v4]);
500
501                // assign the rest of the attributes.
502                for(ArrayList::iterator aItr=arrays.begin();
503                    aItr!=arrays.end();
504                    ++aItr)
505                {
506                    (*aItr)->accept(inv);
507                }
508            }
509        }
510
511    }
512
513}
514
515void Tessellator::begin(GLenum mode)
516{
517    _primList.push_back(new Prim(mode));
518}
519
520void Tessellator::vertex(osg::Vec3* vertex)
521{
522    if (!_primList.empty())
523    {
524        Prim* prim = _primList.back().get();
525        prim->_vertices.push_back(vertex);
526
527    }
528}
529
530void Tessellator::combine(osg::Vec3* vertex,void* vertex_data[4],GLfloat weight[4])
531{
532    _newVertexList.push_back(NewVertex(vertex,
533                                    weight[0],(Vec3*)vertex_data[0],
534                                     weight[1],(Vec3*)vertex_data[1],
535                                     weight[2],(Vec3*)vertex_data[2],
536                                     weight[3],(Vec3*)vertex_data[3]));
537}
538
539void Tessellator::end()
540{
541    // no need to do anything right now...
542}
543
544void Tessellator::error(GLenum errorCode)
545{
546    _errorCode = errorCode;
547}
548
549void CALLBACK Tessellator::beginCallback(GLenum which, void* userData)
550{
551    ((Tessellator*)userData)->begin(which);
552}
553
554void CALLBACK Tessellator::endCallback(void* userData)
555{
556    ((Tessellator*)userData)->end();
557}
558
559void CALLBACK Tessellator::vertexCallback(GLvoid *data, void* userData)
560{
561    ((Tessellator*)userData)->vertex((Vec3*)data);
562}
563
564void CALLBACK Tessellator::combineCallback(GLdouble coords[3], void* vertex_data[4],
565                              GLfloat weight[4], void** outData,
566                              void* userData)
567{
568    Vec3* newData = new osg::Vec3(coords[0],coords[1],coords[2]);
569    *outData = newData;
570    ((Tessellator*)userData)->combine(newData,vertex_data,weight);
571}
572
573void CALLBACK Tessellator::errorCallback(GLenum errorCode, void* userData)
574{
575    ((Tessellator*)userData)->error(errorCode);
576}
577
578void Tessellator::reduceArray(osg::Array * cold, const unsigned int nnu)
579{ // shrinks size of array to N
580    if (cold && cold->getNumElements()>nnu) {
581        osg::Vec2Array* v2arr = NULL;
582        osg::Vec3Array* v3arr = NULL;
583        osg::Vec4Array* v4arr = NULL;
584        switch (cold->getType()) {
585        case osg::Array::Vec2ArrayType: {
586            v2arr = dynamic_cast<osg::Vec2Array*>(cold);
587            osg::Vec2Array::iterator itr=v2arr->begin()+nnu;
588            (*v2arr).erase(itr, v2arr->end());
589                                        }
590            break;
591        case osg::Array::Vec3ArrayType: {
592            v3arr = dynamic_cast<osg::Vec3Array*>(cold);
593            osg::Vec3Array::iterator itr=v3arr->begin()+nnu;
594            (*v3arr).erase(itr, v3arr->end());
595                                        }
596            break;
597        case osg::Array::Vec4ArrayType: {
598            v4arr = dynamic_cast<osg::Vec4Array*>(cold);
599            osg::Vec4Array::iterator itr=v4arr->begin()+nnu;
600            (*v4arr).erase(itr, v4arr->end());
601                                        }
602            break;
603        default: // should also handle:ArrayType' ByteArrayType' ShortArrayType' IntArrayType'
604        // `UShortArrayType'  `UIntArrayType'  `Vec4ubArrayType'  `FloatArrayType'
605            break;
606        }
607    }
608}
609
610void Tessellator::collectTessellation(osg::Geometry &geom, unsigned int originalIndex)
611{
612    osg::Vec3Array* vertices = dynamic_cast<osg::Vec3Array*>(geom.getVertexArray());
613    VertexPtrToIndexMap vertexPtrToIndexMap;
614
615    // populate the VertexPtrToIndexMap.
616    for(unsigned int vi=0;vi<vertices->size();++vi)
617    {
618        vertexPtrToIndexMap[&((*vertices)[vi])] = vi;
619    }
620
621    handleNewVertices(geom, vertexPtrToIndexMap);
622
623    // we don't properly handle per primitive and per primitive_set bindings yet
624    // will need to address this soon. Robert Oct 2002.
625    {
626        osg::Vec3Array* normals = NULL; // GWM Sep 2002 - add normals for extra facets
627        int iprim=0;
628        if (geom.getNormalBinding()==osg::Geometry::BIND_PER_PRIMITIVE ||
629            geom.getNormalBinding()==osg::Geometry::BIND_PER_PRIMITIVE_SET)
630        {
631            normals = dynamic_cast<osg::Vec3Array*>(geom.getNormalArray()); // GWM Sep 2002
632        }
633        // GWM Dec 2003 - needed to add colours for extra facets
634        osg::Vec4Array* cols4 = NULL; // GWM Dec 2003 colours are vec4
635        osg::Vec3Array* cols3 = NULL; // GWM Dec 2003 colours are vec3
636        if (geom.getColorBinding()==osg::Geometry::BIND_PER_PRIMITIVE ||
637              geom.getColorBinding()==osg::Geometry::BIND_PER_PRIMITIVE_SET)
638        {
639              Array* colours = geom.getColorArray(); // GWM Dec 2003 - need to duplicate face colours
640              switch (colours->getType()) {
641              case osg::Array::Vec4ArrayType:
642                  cols4=dynamic_cast<osg::Vec4Array *> (colours);
643                  break;
644              case osg::Array::Vec3ArrayType:
645                  cols3=dynamic_cast<osg::Vec3Array *> (colours);
646                  break;
647              default:
648                  break;
649              }
650
651        }
652        // GWM Dec 2003 - these holders need to go outside the loop to
653        // retain the flat shaded colour &/or normal for each tessellated polygon
654        osg::Vec3 norm(0.0f,0.0f,0.0f);
655        osg::Vec4 primCol4(0.0f,0.0f,0.0f,1.0f);
656        osg::Vec3 primCol3(0.0f,0.0f,0.0f);
657
658        for(PrimList::iterator primItr=_primList.begin();
659        primItr!=_primList.end();
660        ++primItr, ++_index)
661        {
662              Prim* prim=primItr->get();
663              int ntris=0;
664
665              if(vertexPtrToIndexMap.size() <= 255)
666              {
667                  osg::DrawElementsUByte* elements = new osg::DrawElementsUByte(prim->_mode);
668                  for(Prim::VecList::iterator vitr=prim->_vertices.begin();
669                  vitr!=prim->_vertices.end();
670                  ++vitr)
671                {
672                    elements->push_back(vertexPtrToIndexMap[*vitr]);
673                }
674
675                  // add to the drawn primitive list.
676                  geom.addPrimitiveSet(elements);
677                  ntris=elements->getNumIndices()/3;
678              }
679              else if(vertexPtrToIndexMap.size() > 255 && vertexPtrToIndexMap.size() <= 65535)
680              {
681                  osg::DrawElementsUShort* elements = new osg::DrawElementsUShort(prim->_mode);
682                  for(Prim::VecList::iterator vitr=prim->_vertices.begin();
683                    vitr!=prim->_vertices.end();
684                    ++vitr)
685                  {
686                    elements->push_back(vertexPtrToIndexMap[*vitr]);
687                  }
688
689                  // add to the drawn primitive list.
690                  geom.addPrimitiveSet(elements);
691                  ntris=elements->getNumIndices()/3;
692              }
693              else
694              {
695                  osg::DrawElementsUInt* elements = new osg::DrawElementsUInt(prim->_mode);
696                  for(Prim::VecList::iterator vitr=prim->_vertices.begin();
697                    vitr!=prim->_vertices.end();
698                    ++vitr)
699                  {
700                    elements->push_back(vertexPtrToIndexMap[*vitr]);
701                  }
702
703                  // add to the drawn primitive list.
704                  geom.addPrimitiveSet(elements);
705                  ntris=elements->getNumIndices()/3;
706              }
707
708              if (primItr==_primList.begin())
709              {   // first primitive so collect primitive normal & colour.
710                  if (normals) {
711                     if (geom.getNormalBinding()==osg::Geometry::BIND_PER_PRIMITIVE)
712                        norm=(*normals)[originalIndex + _extraPrimitives];
713                     else
714                        norm=(*normals)[iprim]; // GWM Sep 2002 the flat shaded normal
715                  }
716                  if (cols4) {
717                      primCol4=(*cols4)[iprim]; // GWM Dec 2003 the flat shaded rgba colour
718                    if (_index>=cols4->size()) {
719                        cols4->push_back(primCol4); // GWM Dec 2003 add flat shaded colour for new facet
720                    }
721                  }
722                  if (cols3) {
723                      primCol3=(*cols3)[iprim]; // GWM Dec 2003 flat shaded rgb colour
724                    if (_index>=cols3->size()) {
725                        cols3->push_back(primCol3); // GWM Dec 2003 add flat shaded colour for new facet
726                    }
727                  }
728              }
729              else
730              { // later primitives use same colour
731                  if (normals)
732                  {
733                      if (geom.getNormalBinding()==osg::Geometry::BIND_PER_PRIMITIVE)
734                      {
735                          _extraPrimitives++;
736                          normals->insert(normals->begin() + originalIndex + _extraPrimitives, norm);
737                      }
738                      else
739                        normals->push_back(norm); // GWM Sep 2002 add flat shaded normal for new facet
740                  }
741                  if (cols4 && _index>=cols4->size()) {
742                    cols4->push_back(primCol4); // GWM Dec 2003 add flat shaded colour for new facet
743                  }
744                  if (cols3 && _index>=cols3->size()) {
745                    if (cols3) cols3->push_back(primCol3); // GWM Dec 2003 add flat shaded colour for new facet
746                  }
747                  if (prim->_mode==GL_TRIANGLES) {
748                      if (geom.getNormalBinding()==osg::Geometry::BIND_PER_PRIMITIVE_SET ||
749                          geom.getNormalBinding()==osg::Geometry::BIND_PER_PRIMITIVE) { // need one per triangle? Not one per set.
750                          for (int ii=1; ii<ntris; ii++) {
751                              if (normals) normals->push_back(norm); // GWM Sep 2002 add flat shaded normal for new facet
752                          }
753                      }
754                      if (geom.getColorBinding()==osg::Geometry::BIND_PER_PRIMITIVE_SET ||
755                          geom.getColorBinding()==osg::Geometry::BIND_PER_PRIMITIVE) { // need one per triangle? Not one per set.
756                          for (int ii=1; ii<ntris; ii++) {
757                              if (cols3 && _index>=cols3->size()) {
758                                  if (cols3) cols3->push_back(primCol3);
759                              }
760                              if (cols4 && _index>=cols4->size()) {
761                                  if (cols4) cols4->push_back(primCol4);
762                              }
763                              _index++;
764                          }
765                      }
766                  }
767                  //        OSG_WARN<<"Add: "<< iprim << std::endl;
768              }
769              iprim++; // GWM Sep 2002 count which normal we should use
770        }
771    }
772}
Note: See TracBrowser for help on using the browser.