Ticket #11027: trac_11027-schur-decomposition-doctest.patch

File trac_11027-schur-decomposition-doctest.patch, 1002 bytes (added by rbeezer, 10 years ago)
  • sage/matrix/matrix_double_dense.pyx

    # HG changeset patch
    # User Rob Beezer <beezer@ups.edu>
    # Date 1302714179 25200
    # Node ID dbd481bb3bbcf387aed9506f77ee83168bf7e5dc
    # Parent  6f744434112294ddd3f712b931d94a0ffc4a0a7b
    11027: Schur decoposition doctest fix
    
    diff -r 6f7444341122 -r dbd481bb3bbc sage/matrix/matrix_double_dense.pyx
    a b  
    15351535            [  0.139 -0.3892 -0.2648  0.8713]
    15361536            [ 0.4361   0.359  0.7599  0.3217]
    15371537            [ -0.836  0.3945  0.1438  0.3533]
     1538            sage: T = T.zero_at(1.0e-12).change_ring(RDF)
    15381539            sage: T.round(4)
    15391540            [-13.5698      0.0      0.0      0.0]
    1540             [     0.0  -0.8508     -0.0     -0.0]
     1541            [     0.0  -0.8508      0.0      0.0]
    15411542            [     0.0      0.0   7.7664      0.0]
    15421543            [     0.0      0.0      0.0  11.6542]
    15431544            sage: (Q*Q.transpose()).zero_at(1.0e-12)